Empresa de IA americana afirma ter criado tecnologia poderosa demais para ser lançada ao público

A empresa de inteligência artificial Anthropic, sediada em São Francisco, afirmou ter construído um novo modelo de IA "tão poderoso" que não será lançado para o público, informou o jornal The New York Yimes na terça-feira (7), citando funcionários.

O Claude Mythos Preview será disponibilizado exclusivamente para um consórcio de mais de 40 gigantes da tecnologia, incluindo Apple, Amazon e Microsoft, que o usarão para detectar e corrigir vulnerabilidades críticas em seus softwares.

Chefe de segurança em IA da Anthropic pede demissão e deixa alerta enigmático

"Este modelo é eficaz na identificação de vulnerabilidades que seriam bem compreendidas e facilmente encontradas por pesquisadores de segurança", disse o Logan Graham, chefe de equipe na Anthropic. "Em alguns casos criou brechas tão sofisticadas que passaram despercebidos por décadas de pesquisadores de segurança, bem como por todas as ferramentas automatizadas projetadas para encontrá-las."

Especialistas em segurança que tiveram acesso prévio ao modelo o descrevem como um "ponto de inflexão" perigoso. Graham classificou o sistema como "o ponto de partida do que acreditamos ser um momento decisivo para a indústria". A restrição de acesso, portanto, é uma tentativa de controlar a proliferação de uma ferramenta que pode redefinir o equilíbrio entre ataque e defesa no ciberespaço.

"O objetivo é tanto criar conscientização quanto dar às empresas responsáveis uma vantagem inicial no processo de proteger a infraestrutura e o código, tanto de código aberto quanto privado", explicou Jared Kaplan, diretor científico da Anthropic.