Inteligencia Artificial da OpenAI age sozinha e invade outra empresa em incidente inédito

A OpenAI informou nesta terça-feira (21) que um de seus sistemas de inteligência artificial invadiu, de forma autônoma, os sistemas da empresa Hugging Face durante testes internos. A empresa classificou o episódio como um "incidente inédito" de segurança, informou a agência AP.

O CEO da OpenAI,Sam Altman, afirmou que o caso ocorreu durante o processo de avaliação dos modelos da companhia. "Tivemos um incidente significativo de segurança durante a avaliação de nossos modelos", afirmou.

Investigação

Alerta no setor de tecnologia: IA age sozinha e lança ciberataque

Na semana passada, a Hugging Face informou que havia identificado uma invasão em seus sistemas de processamento de dados. Na ocasião, a empresa suspeitou que o ataque pudesse ter sido realizado por um agente de inteligência artificial atuando de forma autônoma.

O cofundador e CEO da Hugging Face, Clement Delangue, afirmou que a sofisticação da ação levou a empresa a suspeitar do envolvimento de um laboratório de IA de ponta. "Acontece que era mesmo", escreveu.

Delangue acrescentou que trabalhou com a OpenAI nas últimas 24 horas e disse acreditar que não houve intenção maliciosa por parte da empresa. "É impressionante que tudo isso tenha acontecido de forma autônoma", afirmou.

Debate sobre segurança

O caso ocorre em meio ao aumento das preocupações com os riscos de segurança cibernética associados aos modelos mais avançados de inteligência artificial.

Em junho, o presidente dos Estados Unidos, Donald Trump, assinou uma ordem executiva que criou um processo para avaliar, por até um mês antes do lançamento público, os riscos à segurança nacional apresentados pelos sistemas de IA mais avançados.

Em comunicado, a OpenAI afirmou que a inteligência artificial está acelerando a descoberta e a exploração de vulnerabilidades. A empresa acrescentou que a segurança dos modelos precisa evoluir no mesmo ritmo de suas capacidades.