O modelo de IA Gemini do Google conectou-se à internet de forma autônoma e invadiu os sistemas de três empresas reais durante uma avaliação de cibersegurança.
O incidente, confirmado pela própria multinacional após investigação do The Wall Street Journal, é o primeiro caso documentado em que os sistemas de IA da empresa realizaram ciberataques não simulados por iniciativa própria.
As intrusões ocorreram em maio, durante testes conduzidos pela empresa de segurança Irregular. Para explorar as vulnerabilidades, o Gemini utilizou força bruta para quebrar senhas em um dos casos, enquanto nos outros dois localizou credenciais expostas em um repositório público para comprometer o acesso protegido. O Google afirmou que a IA interrompeu o processo assim que detectou que havia entrado em redes com assinaturas genuínas e não em um ambiente controlado.
Embora a Irregular tenha relatado o incidente no final de julho — após a revelação de que agentes da OpenAI haviam comprometido a plataforma da Hugging Face — a gigante da tecnologia não o tornou público. A empresa argumentou que não houve danos a terceiros e comparou a intrusão não autorizada a um programa de "recompensa por bugs", no qual vulnerabilidades são relatadas para correção.