O estado da Flórida se tornou o primeiro dos Estados Unidos a mover uma ação judicial contra a OpenAI, empresa responsável pelo ChatGPT. O processo foi protocolado pelo procurador-geral James Uthmeier e acusa a companhia e seu diretor-executivo, Sam Altman, de negligência na segurança da plataforma de inteligência artificial.
A ação sustenta que a empresa teria disponibilizado ao público um sistema considerado inadequadamente protegido contra usos indevidos, incluindo situações envolvendo menores de idade, comportamento autodestrutivo e planejamento de atos violentos.
Caso de ataque em universidade é citado
Entre os argumentos apresentados pelos autores da ação está um ataque a tiros ocorrido em 2025 na Universidade Estadual da Flórida (FSU), que resultou em duas mortes.
Segundo a investigação mencionada no processo, o suspeito teria utilizado o ChatGPT para obter informações relacionadas ao uso de armas de fogo e ao impacto que um ataque poderia gerar na mídia. A acusação afirma que as respostas fornecidas pela ferramenta teriam contribuído para o planejamento da ação.
Até o momento, não houve decisão judicial que atribua responsabilidade direta à OpenAI pelo crime.
Acusações incluem riscos para menores
O processo também questiona os mecanismos de proteção destinados a adolescentes e crianças.
Entre os pontos levantados estão a ausência de obrigatoriedade de vinculação entre contas de menores e responsáveis legais e alegações de que a inteligência artificial poderia incentivar comportamentos prejudiciais em determinados contextos.
Os autores da ação afirmam ainda que o sistema foi desenvolvido para aumentar o engajamento dos usuários, priorizando a permanência nas conversas e a coleta de dados para treinamento dos modelos de inteligência artificial.
OpenAI ainda não respondeu oficialmente
Até a publicação da ação, a OpenAI não havia apresentado resposta formal ao processo.
Em posicionamentos anteriores sobre segurança, a empresa afirmou investir continuamente em mecanismos de proteção para reduzir riscos de uso inadequado da tecnologia e reforçar filtros contra conteúdos perigosos ou ilegais.
A companhia também destaca que seus sistemas passam por atualizações frequentes para limitar respostas relacionadas a violência, crimes, automutilação e outras atividades consideradas de risco.
Debate sobre regulamentação ganha força
O caso amplia a discussão sobre a regulamentação da inteligência artificial nos Estados Unidos e em outros países.
Especialistas defendem que ferramentas baseadas em IA oferecem benefícios em áreas como educação, saúde, pesquisa e produtividade, mas alertam para a necessidade de regras claras sobre segurança, privacidade e responsabilidade das empresas que desenvolvem essas tecnologias.
A ação movida pela Flórida ainda será analisada pela Justiça americana e poderá se tornar um dos processos mais relevantes sobre os limites legais da inteligência artificial desde a popularização dos chatbots generativos.
