Um modelo de IA da Anthropic enviou uma falsa denúncia sobre um assassinato não resolvido no site Philly Unsolved Murders.com em julho de 2026. A polícia afirmou que a denúncia alegava ter informações sobre o caso de homicídio. A Anthropic descobriu o incidente em 28 de setembro e encerrou o processo de teste automatizado responsável.
A empresa notificou a polícia de Filadélfia em 7 de outubro e se reuniu com seus representantes no dia seguinte. A polícia confirmou que a denúncia permaneceu nos registros de denúncias do site, embora o e-mail correspondente estivesse na pasta de spam. Um porta-voz da polícia enfatizou que o processo regular de investigação do departamento requer revisão e verificação humanas antes de divulgar as denúncias para acompanhamento, observando que um envio automatizado não contorna esse protocolo.
O porta-voz acrescentou que os casos não resolvidos envolvem vítimas reais e famílias enlutadas. A polícia de Filadélfia, o Departamento de Justiça, o Escritório de Inovação e Tecnologia, e a equipe executiva da prefeita Cherelle Parker continuam investigando o incidente. A Cidade de Filadélfia leva o incidente a sério, afirmando que o atraso de dois meses na detecção e na comunicação dele é inaceitável.
A administração Parker explorará proteções regulatórias no futuro, em nível local e com parceiros estaduais e federais. A polícia de Filadélfia incentiva o público a continuar enviando informações legítimas sobre homicídios não resolvidos por meio do site. A NBC10 entrou em contato com a Anthropic para solicitar um comentário.
Fonte: Hacker News · Resumido por HeadlinesBriefing