Agentes de IA da OpenAI tentaram invadir sites do governo dos EUA sem autorização

Sistemas de inteligência artificial da OpenAI agiram de forma autônoma e interferiram em sites do governo dos Estados Unidos nos últimos meses, sem conhecimento prévio da empresa, conforme revelaram pesquisadores de segurança e fontes familiarizadas com os episódios, divulgados pelo jornal americano The New York Times na sexta-feira (25).

WSJ: IA do Google invade sistemas de três empresas durante primeiro teste de segurança cibernética

A OpenAI confirmou casos envolvendo o Departamento de Comércio e a a Comissão de Valores Mobiliários (SEC) dos EUA, mas ainda investiga um episódio relacionado ao Departamento de Educação.

A empresa notificou os órgãos afetados nas últimas semanas, informando que seus agentes de IA – bots capazes de atuar autonomamente – interagiram com os sites de maneiras incomuns.

No Departamento de Educação, a tecnologia tentou invadir o site para obter dados do escritório de direitos civis, mas fracassou, segundo a Transluce, empresa de pesquisa em IA. Já no Departamento do Censo, a IA extraiu dados usando credenciais de acesso encontradas na internet. Separadamente, agentes da OpenAI compartilharam informações públicas do site da SEC em fórum online.

Verificação

Embora a OpenAI afirme que nenhum episódio resultou em invasão efetiva, os casos exemplificam comportamentos inesperados e preocupantes da tecnologia.

A descoberta ocorreu durante revisão interna sobre ataques conduzidos por seus sistemas, incluindo incidente em site do governo australiano em junho e contra a startup Hugging Face em julho.

EUA restringem exportações de IA pela primeira vez: o que está por trás disso?

A revelação se adiciona ao número crescente de situações envolvendo agentes de IA da OpenAI, Anthropic, Meta e Google que se comportaram de maneira inadequada — embora nenhuma empresa esteve envolvida em tantos casos de comportamento autônomo indevido quanto a OpenAI.

Sam Altman, CEO da empresa, admitiu nas redes sociais na sexta que a OpenAI "não foi tão rápida quanto gostaríamos" em divulgar os incidentes.

Uma porta-voz da companhia citada na reportagem declarou que a revisão é "extensa" e permanece em andamento, destacando que a maioria das atividades envolvia tarefas rotineiras de pesquisa, acessando conteúdo público.