Uma mulher de Bonita Springs, Flórida, foi presa após ameaçar atacar o departamento de polícia do Condado de Lee em um chatbot da plataforma Anthropic AI.
Carli Michelle Heller, que disse usar Claude como um "diário", escreveu em 26 de setembro que iria "atirar" nos policiais do Departamento do Xerife e, no dia seguinte, afirmou ter conseguido uma arma.
A plataforma considerou suas mensagens potencialmente ameaçadoras e encaminhou o chat para uma equipe de revisão humana, que então alertou as autoridades.
A mulher foi acusada de fazer ameaças de violência por escrito. Sua próxima audiência está marcada para novembro.