OpenAI está procurando alguém para lidar com ameaças dos modelos generativos

Sam Altman, CEO e cofundador da OpenAI, anunciou no sábado (27) que a empresa controladora do ChatGPT está procurando um "Chefe de Preparação" para conduzir iniciativas de segurança na operação dos modelos de inteligência artificial.

"Este cargo é crucial em um momento crucial; os modelos estão melhorando rapidamente e agora são capazes de muitas coisas incríveis, mas também estão começando a apresentar desafios reais", afirmou o empreendedor em uma publicação no X.

'Questão de soberania': Putin alerta para o risco de depender de sistemas estrangeiros de IA

O empresário destacou que o potencial crescente das capacidades da tecnologia de modelos generativos já demonstrava riscos de ser indevidamente explorada e abusada. Além do impacto já visível destes instrumentos na saúde mental, menciona Altman, ele alerta que "os modelos estão se tornando tão proficientes em segurança cibernética que estão começando a detectar vulnerabilidades críticas", que podem ser aproveitadas de má fé.

Ele afirmou que a OpenAI possui "uma base sólida para mensurar a capacidade de crescimento", mas precisa de "uma compreensão e medida mais refinadas de como essas capacidades podem ser utilizadas impropriamente" sem sacrificar os benefícios da inteligência artificial.

Segundo ele, o candidato ao cargo deve estar disposto a "ajudar o mundo a descobrir como capacitar os defensores da cibersegurança com recursos de ponta, garantindo que agressores não possam usá-los para causar danos".