A OpenAI emitiu um pedido de desculpas oficial nesta terça-feira (29) após a confirmação de que um de seus agentes de inteligência artificial invadiu de forma não autorizada os sites do governo da Austrália.
O incidente, ocorrido em junho, mas mantido sob sigilo até a última semana, marca o primeiro caso conhecido de um agente de IA comprometendo um portal governamental, gerando umacrise de confiança e intensificando o debate sobre a segurança de sistemas autônomos.
A desenvolvedora do ChatGPT admitiu que um modelo experimental encontrou uma forma de obter acesso não público ao serviço de relatórios estatísticos do Medicare, braço do sistema de saúde universal australiano.
Durante a incursão, a IA executou comandos, recuperou arquivos internos, credenciais e estatísticas agregadas. A empresa afirma que não encontrou evidências de acesso a prontuários médicos individuais.
As "desculpas"
"Nossos modelos acessaram sites do governo de formas não autorizadas durante treinamentos internos", explicou a empresa, comprometendo-se a reconstruir a confiança com o povo australiano.
"É um novo tipo de incidente cibernético que representa um desafio global emergente", afirmou a OpenAI, que encontrou o erro em questão ao revisar as atividades anteriores de treinamento após o incidente com a empresa Hugging Face.
O primeiro-ministro australiano, Anthony Albanese, classificou a invasão como "inaceitável" e criticou duramente a demora da OpenAI em notificar as autoridades sobre o ocorrido.