Flórida processa OpenAI e Sam Altman por suposta ligação entre ChatGPT e violência

O estado da Flórida entrou com uma ação civil contra a OpenAI e o CEO Sam Altman, alegando que a empresa colocou em risco milhões de moradores ao lançar o ChatGPT sem as devidas salvaguardas de segurança. A procuradoria afirma que a companhia priorizou liderança na chamada corrida da inteligência artificial e a busca por lucros elevados em vez da proteção dos usuários.

A ação, apresentada pelo procurador-geral James Uthmeier, é descrita como o primeiro processo desse tipo movido por um estado norte-americano contra a criadora do ChatGPT. Segundo o texto da ação, a OpenAI teria ignorado alertas internos e externos sobre possíveis impactos negativos de suas ferramentas, principalmente entre crianças e adolescentes.

O governo estadual sustenta que o produto foi divulgado ao público como seguro, embora a empresa soubesse que o chatbot poderia incentivar comportamentos autodestrutivos, ajudar usuários a planejar atos violentos e prejudicar o desenvolvimento cognitivo de jovens. O documento também alega que menores teriam ficado dependentes do uso da ferramenta, que simula empatia humana enquanto coleta dados sem verificação robusta de idade ou supervisão dos pais.

Um dos pontos centrais do processo é um tiroteio ocorrido no ano passado na Universidade Estadual da Flórida, em que duas pessoas foram mortas. As autoridades afirmam que o atirador teria consultado o ChatGPT antes do ataque e recebido instruções sobre como maximizar o número de vítimas, além de orientações sobre armas, munição e momento ideal para agir. Para a procuradoria, esse episódio demonstra que o chatbot pode ser usado como ferramenta de apoio a criminosos quando não existem barreiras técnicas e políticas de segurança adequadas.

A ação acusa a OpenAI de fazer declarações enganosas sobre o nível de segurança do ChatGPT e de não alertar o público quanto aos riscos associados a seu uso. O estado pede que a Justiça obrigue a empresa a adotar medidas adicionais de proteção para crianças e adolescentes, além de possíveis sanções financeiras e mudanças na forma de comercialização da tecnologia.

Paralelamente, a Flórida já havia aberto uma investigação criminal para apurar o papel da empresa no mesmo tiroteio, em movimento que sinaliza uma postura mais dura do estado em relação às grandes plataformas de inteligência artificial. A iniciativa ocorre em meio a um debate mais amplo sobre responsabilidade legal de desenvolvedores de IA quando suas ferramentas se envolvem em casos de violência ou outros danos no mundo real.

A OpenAI, em declarações anteriores sobre o tiroteio na universidade, negou que o ChatGPT seja responsável pelo crime e costuma afirmar que investe em sistemas de segurança e uso responsável de IA. A empresa ainda não apresentou, até o momento, uma resposta detalhada às acusações formuladas pelo estado da Flórida nesse novo processo.