Notícias
Unesco adverte que a IA pode alimentar o antissemitismo
Como 80% dos usuários com idades entre 10 e 24 anos usam a tecnologia várias vezes ao dia, eles são particularmente vulneráveis a conteúdo falso, alerta um relatório.
A Inteligência Artificial (IA) generativa pode levar a um aumento de narrativas falsas sobre as atrocidades da Segunda Guerra Mundial, incluindo a negação do Holocausto, de acordo com um novo relatório da Unesco e do Congresso Judaico Mundial divulgado na terça-feira.
De acordo com o relatório, a geração de conteúdo falso auxiliada por IA poderia minar a autenticidade das evidências históricas e disseminar ideologias antissemitas, levando a uma maior probabilidade de dados não confiáveis.
O documento adverte que o conteúdo criado por IA é particularmente atraente para usuários com idades entre 10 e 24 anos, sendo que 80% deles usam a tecnologia várias vezes ao dia, portanto, "é necessária uma ação rápida para orientar essas novas tecnologias de forma ética".
Como exemplo, o relatório menciona o aplicativo Historical Figures, cuja interface permitia que os usuários conversassem com figuras nazistas proeminentes, como Adolf Hitler e Joseph Goebbels, e afirmava falsamente que figuras como Goebbels não haviam participado intencionalmente do Holocausto e haviam tentado impedir a violência contra os judeus.
Além disso, observa que tanto o ChatGPT quanto o Google Bard geraram repetidamente conteúdo detalhando eventos históricos relacionados ao Holocausto que, na realidade, nunca aconteceram.
"Se permitirmos que os terríveis fatos do Holocausto sejam diluídos, distorcidos ou falsificados por meio do uso irresponsável da IA, corremos o risco de uma disseminação explosiva do antissemitismo e de um declínio gradual em nossa compreensão dessas atrocidades", disse a diretora-geral da Unesco, Audrey Azoulay.
A agência pede aos Governos que acelerem a implementação da Recomendação sobre a Ética da IA, adotada em 2021 pelos Estados membros, e insta as empresas de tecnologia a estabelecer padrões éticos para o desenvolvimento e uso da IA em um esforço para reduzir o potencial de geração de informações não confiáveis.