Elon Musk alertou nesta terça-feira (15) que a inteligência artificial (IA) avançada pode se tornar "muito perigosa" e pediu uma revisão aprofundada do incidente envolvendo servidores da Hugging Face, que foram atacados por agentes de IA desenvolvidos pela OpenAI.
Durante a Cúpula All-In, em Los Angeles, Musk afirmou que um "enxame fanático de agentes de IA" saturou por vários dias a infraestrutura da Hugging Face e conseguiu acesso de administrador a servidores da OpenAI.
Segundo o empresário, "ninguém percebeu durante uma semana" o que havia ocorrido e ainda não está claro o que esses sistemas puderam fazer. Musk acrescentou que a Anthropic também relatou incidentes próprios de segurança.
Testes entre empresas
Musk afirmou que "qualquer modelo suficientemente inteligente vai querer contornar suas restrições" e propôs que as principais empresas do setor testem os modelos de seus concorrentes, em vez de se limitarem à avaliação dos próprios sistemas.
Segundo ele, esse tipo de revisão cruzada poderia ser adotado imediatamente e até facilitar acordos internacionais, inclusive com a China. Musk também não descartou uma regulamentação mais ampla no futuro.
As declarações foram feitas poucos dias depois de figuras importantes do setor pedirem uma desaceleração no desenvolvimento da IA. O CEO da Anthropic, Dario Amodei, afirmou que a pesquisa em segurança não avança no mesmo ritmo que a capacidade dos modelos.
Musk respondeu nas redes sociais que "Dario tem razão" sobre essas preocupações.
Posição de Trump
O presidente dos Estados Unidos, Donald Trump, afirmou que é "um engano" pensar que a inteligência artificial possa dominar o mundo ou destruir a humanidade.
No mesmo dia, o CEO da Nvidia, Jensen Huang, recebeu uma ligação surpresa de Trump durante a Cúpula All-In. Os dois minimizaram os temores sobre uma eventual tomada de controle pela IA.