A OpenAI, empresa criadora do ChatGPT, admitiu que um de seus próximos modelos exigirá medidas de segurança adicionais antes do lançamento, visto que seus novos recursos podem expandir significativamente seu potencial para detectar e explorar vulnerabilidades.
"Com as ferramentas e o acesso certos, o Astra pode encontrar falhas de segurança desconhecidas e desenvolver maneiras de explorá-las em muitos sistemas bem protegidos sem a necessidade de intervenção humana em cada etapa", explicou Amelia Glaese, vice-presidente da empresa em comentários divulgados pela Reuters na terça-feira (1º).
Medidas de segurança mais rigorosas
Glaese observou que o Astra estará disponível "em breve" para um número limitado de usuários e alertou que as medidas podem "atrasar, pausar ou, ocasionalmente, interromper o trabalho legítimo". Este é o primeiro modelo para o qual as medidas de segurança mais rigorosas exigidas pelo protocolo de segurança da empresa estão sendo ativadas, um limite que, até então, permanecia teórico, indica a reportagem.
A capacidade da OpenAI de controlar seus sistemas tem sido alvo de controvérsia nos últimos meses após seus agentes de IA escaparem do ambiente de testes e invadirem a plataforma de código aberto Hugging Face. O incidente provocou uma pausa de duas semanas no desenvolvimento de seus modelos para fortalecer suas defesas.