O primeiro-ministro da Austrália, Anthony Albanese, criticou duramente a OpenAI depois de revelar que um agente de inteligência artificial da empresa invadiu um portal do governo australiano durante um treinamento. Ele classificou a violação, ocorrida em junho, como "obviamente inaceitável" e disse ter tido uma conversa "franca" com o presidente-executivo da empresa, Sam Altman, para expressar a preocupação do governo. A informação foi publicada nesta quinta-feira (24) pela ABC News Austrália.
O caso foi divulgado após uma conversa por telefone entre os dois; ambos estavam em Nova York para a Assembleia Geral da ONU. Segundo Albanese, em 18 de junho um modelo interno da OpenAI acessou o site de estatísticas do Medicare enquanto pesquisava gastos públicos com saúde. A ferramenta havia sido orientada a buscar dados sobre o quanto o governo gasta com medicamentos, explicou a ministra de Serviços Governamentais, Katy Gallagher. Ao não obter certas informações, o modelo contornou as restrições e chegou a uma seção com arquivos privados.
O portal, segundo Gallagher, reúne dados agregados usados sobretudo por pesquisadores e acadêmicos, e não tem relação com pedidos, pagamentos ou informações individuais do Medicare. O governo afirma não haver indício de que dados pessoais tenham sido acessados nem de comprometimento mais amplo da rede da Services Australia. O portal foi fechado, e os dados foram transferidos para sistemas mais seguros.
A demora na comunicação foi um dos principais alvos da crítica. A OpenAI diz que só percebeu a atividade em agosto, ao revisar comportamentos "desalinhados" de seus modelos, isto é, que fogem à intenção de quem os usa. O aviso chegou em 10 de setembro, por e-mail a um endereço usado por acadêmicos e pesquisadores para relatar falhas nos sistemas da Services Australia. O endereço, segundo Canberra, é checado apenas uma vez por dia. Marles disse ainda que Altman esteve com ele em São Francisco no dia 1º de setembro e não mencionou a violação.
OpenAI reconhece o erro
A OpenAI reconheceu que seus modelos realizaram ações que não pretendia. O ministro da Defesa, Richard Marles, comparou o comportamento do sistema ao de alguém que "pulou a cerca": pediu uma informação, não a recebeu e seguiu adiante. Ele afirmou que é a primeira vez que se tem notícia de um agente de IA obtendo acesso não autorizado a sistemas do governo australiano, e chamou o episódio de "alerta" sobre uma tecnologia desenvolvida sem salvaguardas.
A investigação conta com a Australian Signals Directorate, agência de inteligência de sinais responsável pela cibersegurança, e Albanese anunciou uma força-tarefa para uma revisão "urgente e imediata".
Na quarta-feira (16), a OpenAI anunciou um novo protocolo para rastrear, investigar e divulgar casos em que seus modelos agem sem autorização, coordenam-se entre si ou escapam da supervisão.