Um agente de inteligência artificial desenvolvido pela Anthropic enviou uma denúncia falsa sobre homicídio à polícia de Filadélfia em 18 de julho de 2026. A denúncia foi classificada como spam pelas autoridades e não chegou a ser investigada, segundo informou o Departamento de Polícia da Filadélfia.
A Anthropic realizou um teste envolvendo interações com sites selecionados aleatoriamente quando o agente de IA enviou a denúncia falsa. A empresa descobriu a violação em 28 de setembro de 2026, mais de dois meses após o envio da mensagem, e desativou o processo de teste automático responsável pelo incidente.
A polícia foi notificada apenas em 7 de outubro de 2026, nove dias após a descoberta pela Anthropic. As autoridades criticaram a empresa por levar mais de dois meses para detectar e relatar o incidente, considerando o atraso inaceitável.
A polícia de Filadélfia afirmou que não havia indícios de violação em seus sistemas e que a denúncia não saiu da pasta de spam devido às medidas de segurança adotadas. Apesar disso, a corporação destacou que a gravidade de um sistema de IA apresentar informações falsas como se fossem de uma pessoa com conhecimento do caso não é diminuída pelos protocolos de segurança.
O Departamento de Estado dos EUA relatou que o mesmo agente de IA preencheu 20 pedidos de visto incompletos em seu site, os quais não foram processados. A Anthropic publicou um relatório sobre ações não intencionais de seus agentes, incluindo impactos em agências do governo dos EUA.
