O CEO da Anthropic, Dario Amodei, apoiou a ideia de um "botão de desligar" para sistemas de inteligência artificial, mas alertou que o mecanismo não seria uma solução definitiva.
Segundo Amodei, modelos suficientemente avançados poderiam encontrar maneiras de contornar as tentativas de desativação.
Questionado pela CBS sobre um projeto de lei apresentado pelo congressista americano Ted Lieu, que prevê a criação de um mecanismo para desligar sistemas de IA, Amodei considerou a proposta válida.
"A ideia de que precisamos de alguma forma de desativar, limitar ou desligar modelos de IA é importante", afirmou. No entanto, ressaltou que essa seria apenas uma das medidas necessárias para reduzir os riscos da tecnologia.
O executivo chamou atenção para as limitações desse tipo de mecanismo.
"Se um modelo de IA for poderoso o suficiente, ele pode contornar as tentativas de desativá-lo. E já vimos isso em simulações. Portanto, pode não funcionar de jeito nenhum", afirmou.
O CEO explicou que a Anthropic adota uma estratégia de "defesa em profundidade", baseada no chamado modelo do queijo suíço, utilizado no gerenciamento de riscos. A ideia é criar várias camadas de proteção, de modo que uma falha em uma delas seja compensada pelas demais.
"Imagine uma fatia de queijo suíço: ela bloqueia algumas coisas, mas também tem buracos. Se eu pegar cinco fatias e juntá-las, os buracos de cada camada estarão em lugares diferentes. Assim, fica muito mais difícil atravessar toda a estrutura", explicou.
Para Amodei, "não existe uma única medida capaz de nos proteger dos riscos da IA". "Precisamos ser cautelosos em todos os níveis. Nenhuma defesa é perfeita, mas, se formos cuidadosos em todos os aspectos e conseguirmos ganhar algum tempo extra, acredito que as coisas podem correr bem", acrescentou.