Anthropic e Accenture anunciam parceria bilionária para reforçar segurança da IA

A Anthropic, desenvolvedora do Claude, e a Accenture, consultoria americana de tecnologia, anunciaram uma parceria para integrar equipes da empresa ao trabalho de avaliação e segurança de modelos avançados de IA, informou a Verdict nesta segunda-feira (21).

Rússia desenvolve sistema de defesa que 'pesca' drones lançando redes ao ar

As empresas pretendem investir pelo menos US$ 1 bilhão cada uma nos próximos cinco anos, para ampliar a capacidade em segurança de IA.

O investimento será destinado a construir capacidades em segurança de inteligência artificial, com foco em avaliação e no "red-teaming" de modelos de IA, na realização de avaliações de alinhamento e em testes da efetividade das salvaguardas existentes.

"Faculty, que agora faz parte da Accenture, foi fundada com a convicção de que a IA deve ser segura por design, não segura por sorte",  afirmou o diretor de tecnologia da Accenture e CEO da Faculty, Marc Warner. 

"Juntar forças com a Anthropic como avaliadores integrados é exatamente o trabalho para o qual a Faculty foi criada — e, na Accenture, temos a plataforma para fazer isso numa escala que pode de fato transformar o setor", acrescentou.