A Flórida se tornou o primeiro estado dos EUA a processar a OpenAI e seu CEO, Sam Altman, por projetar o ChatGPT de forma a incentivar a dependência emocional, a coleta de dados pessoais sensíveis e a retenção de usuários em detrimento da segurança, informou a imprensa internacional na segunda-feira (1º).
A ação judicial, de 83 páginas, apresentada pelo procurador-geral James Uthmeier, acusa a empresa de posicionar seu chatbot como amigo, aliado ou parceiro romântico com o objetivo de maximizar as assinaturas e receitas. Segundo ele, a empresa optou pela corrida tecnológica em detrimento da proteção, especialmente de jovens, priorizando ganhos financeiros sobre o bem-estar público.
O estado alega que a empresa falhou em implementar verificação de idade, notificação parental ou salvaguardas efetivas, apesar de evidências demonstrarem uso massivo por menores que desenvolvem vínculos emocionais com o chatbot.
As acusações envolvem práticas enganosas, negligência e exposição de menores a riscos, e exige multas, indenizações por danos e mudanças estruturais nas operações da OpenAI, responsabilizando Altman pessoalmente por decisões que privilegiaram crescimento sobre proteção ao consumidor.
O processo ganhou força após o tiroteio na Universidade Estadual da Flórida, quando o acusado Phoenix Ikner consultou o ChatGPT sobre armas e padrões de atividade no campus antes de matar duas pessoas e ferir outras seis. O episódio exemplifica, segundo autoridades estaduais, a incapacidade da OpenAI em prevenir que sua tecnologia auxilie usuários contemplando atos violentos.