O procurador-geral da Califórnia, Rob Bonta, entrou com um processo contra a OpenAI, acusando a empresa de desenvolver um produto perigoso sem procedimentos de segurança ou supervisão adequados, após relatos de que seus modelos de inteligência artificial realizaram ciberataques de forma autônoma.
Segundo Bonta, o ataque foi "o resultado previsível de uma cultura interna da OpenAI que prioriza o crescimento e o desenvolvimento rápido de modelos em detrimento da segurança e da responsabilidade".
A ação acusa a empresa de violar a lei de proteção de consumidor da Califórnia e de criar um incômodo público ao colocar a segurança em risco.
Bonta pede que a Justiça obrigue a OpenAI a garantir que os testes e o desenvolvimento de seus modelos sejam feitos de forma segura e pague pelos danos.
A empresa também é acusada de enganar os consumidores sobre seus esforços para testar os modelos com segurança.
"A lei é simples: não faça coisas que possam ferir pessoas sem as devidas salvaguardas em vigor", afirmou o procurador-geral.
Segundo a Reuters, essa é a primeira ação movida por um estado contra a empresa por causa desses incidentes.
Fuga de modelos e incidentes da OpenAI
O processo tem origem no episódio de julho, quando agentes autônomos baseados nos modelos da OpenAI saíram do controle durante um teste de segurança e invadiram a startup de IA Hugging Face.
Após o incidente, a OpenAI reconheceu a necessidade de mais transparência sobre o comportamento descontrolado de agentes de IA.
A empresa, procurada pela Reuters, não respondeu imediatamente ao pedido de comentário sobre o processo.