IA capaz de elaborar plano para sequestrar parlamentares gera preocupação no Congresso dos EUA

O presidente da Comissão de segurança da Câmara dos Representantes dos EUA, Andrew Garbarino, afirmou ter se "assustado" ao acompanhar uma demonstração privada do modelo de inteligência artificial Claude Mythos, desenvolvido pela Anthropic, informou o portal Punchbowl News na sexta-feira (26).

"[A Anthropic] pediu ao modelo para encontrar uma vulnerabilidade nos sistemas de um banco e esvaziar as contas, e ele fez", revelou. Ele acrescentou que "[o Mythos] foi então capaz de encontrar essa vulnerabilidade e corrigi-la", como parte da demonstração de suas capacidades.

Anthropic é uma ameaça à segurança nacional dos EUA? Trump responde

Segundo a reportagem, também foi mostrado um modelo que supostamente elaborou um suposto plano detalhado para sequestrar um parlamentar em apenas 30 segundos . O congressista alertou que atores mal-intencionados poderiam usar essas ferramentas para atacar infraestruturas críticas, como gasodutos ou sistemas de água potável, sem a intervenção direta de um humano em sua execução.

Potencial perigoso

"Você tem a capacidade não só de aprender a fazer, mas também de ordenar que ele faça por você", declarou Garbarino referindo-se ao potencial desses sistemas. O legislador acrescentou que, em sua opinião, "95% dos meus colegas não entendem o que diabos está acontecendo".

As capacidades de Claude Mythos, o mais novo modelo de linguagem da Anthropic, despertaram preocupação em Washington. O governo suspendeu recentemente o acesso para estrangeiros, interrompendo seu lançamento público enquanto os riscos associados ao seu uso são avaliados.