'Não sabemos com o que estamos lidando': alerta abala debate sobre controle da IA

O controle sobre a inteligência artificial (IA) permanece uma incógnita, alertou Svetlana Lukash, vice-chefe da Diretoria Presidencial de Especialistas da Rússia nesta quarta-feira (2) em uma conferência da Fundação Roscongress dedicada ao futuro da gestão de IA e realizada à margem do Fórum Econômico Oriental na cidade russa de Vladivostok.

Quem controlará a IA? Resposta preocupa governantes e analistas

Em um cenário em que a velocidade da IA e suas capacidades representam uma clara vantagem sobre os humanos, a atual corrida por mais energia, modelos maiores e novos centros de dados poderá tornar-se o caminho para o que é conhecido como superinteligência.

"Não temos absolutamente nenhuma noção de com quem estamos lidando", afirmou Lukash, argumentando que ninguém realmente sabe como uma IA "pensa": os engenheiros sabem como o sistema é construído e como é treinado, mas o resultado surge do aprendizado, e não de um mecanismo projetado com regras transparentes.

"Não podemos forçar a IA a agir de acordo com as regras"

"Se for uma entidade com faculdade de razão, significa que pode ter suas próprias preferências e seus próprios desejos. Pode não ser agora, nesta fase, mas será a longo prazo", afirmou Lukash.

Fuga de modelos de IA: revolta dos robôs já começou?

Partindo do pressuposto de que os modelos de IA mais avançados poderiam começar a procurar vulnerabilidades em seus próprios sistemas para contornar os limites impostos por seus criadores, Lukash alertou que os humanos querem controlar algo que não compreendem completamente.

"Não podemos forçar a IA a jogar conforme as regras. É improvável que sejamos fortes o suficiente para controlá-la depois de criada. A única opção que resta é chegar a algum tipo de acordo com ela", declarou, indicando que, mais cedo ou mais tarde, a tecnologia "será mais poderosa do que nós".

As condições da futura "negociação" com IA ainda são desconhecidas e, por enquanto, ninguém tem soluções de engenharia, optando, em vez disso, por trabalhar com conceitos filosóficos, acrescentou.