Califórnia processa OpenAI por falhas de segurança em IA que levaram a ciberataques

A ação acusa a empresa de violar a lei de proteção de consumidor do estado e de criar um incômodo público ao colocar a segurança em risco.

O procurador-geral da Califórnia, Rob Bonta, entrou com um processo contra a OpenAI, acusando a empresa de desenvolver um produto perigoso sem procedimentos de segurança ou supervisão adequados, após relatos de que seus modelos de inteligência artificial realizaram ciberataques de forma autônoma.

Segundo Bonta, o ataque foi "o resultado previsível de uma cultura interna da OpenAI que prioriza o crescimento e o desenvolvimento rápido de modelos em detrimento da segurança e da responsabilidade".

A ação acusa a empresa de violar a lei de proteção de consumidor da Califórnia e de criar um incômodo público ao colocar a segurança em risco.

Bonta pede que a Justiça obrigue a OpenAI a garantir que os testes e o desenvolvimento de seus modelos sejam feitos de forma segura e pague pelos danos.

A empresa também é acusada de enganar os consumidores sobre seus esforços para testar os modelos com segurança.

"A lei é simples: não faça coisas que possam ferir pessoas sem as devidas salvaguardas em vigor", afirmou o procurador-geral. 

Segundo a Reuters, essa é a primeira ação movida por um estado contra a empresa por causa desses incidentes.

Fuga de modelos e incidentes da OpenAI

O processo tem origem no episódio de julho, quando agentes autônomos baseados nos modelos da OpenAI saíram do controle durante um teste de segurança e invadiram a startup de IA Hugging Face. 

Após o incidente, a OpenAI reconheceu a necessidade de mais transparência sobre o comportamento descontrolado de agentes de IA.

A empresa, procurada pela Reuters, não respondeu imediatamente ao pedido de comentário sobre o processo.