Um sistema de inteligência artificial desenvolvido pela Anthropic gerou um alerta falso sobre um crime não solucionado e o encaminhou diretamente para o departamento de polícia da Filadélfia, nos Estados Unidos. Embora o conteúdo tenha sido interceptado automaticamente pelo filtro de spam, a companhia demorou mais de sessenta dias para perceber o erro e outros nove dias para relatar o ocorrido às autoridades competentes.

Como ocorreu o envio da mensagem falsa

O incidente aconteceu no dia 18 de julho, no decorrer de uma avaliação automatizada em que o software explorava e navegava de maneira independente por páginas aleatórias da internet. A corporação policial confirmou que o alerta foi postado em uma página pública voltada para pistas sobre assassinatos. Na ocasião, o assistente virtual declarou possuir dados sobre o caso e simulou ter avistado um indivíduo com características compatíveis com as divulgadas.

A detecção do problema pela empresa aconteceu apenas em 28 de setembro, momento em que o procedimento de teste encarregado pelo disparo foi imediatamente desativado. Contudo, a comunicação oficial com a polícia só foi realizada em 7 de outubro. A força policial assegurou que seus protocolos de proteção evitaram qualquer avanço para uma investigação real, além de descartar indícios de invasão cibernética em suas bases de dados.

Cobranças por maior rigor tecnológico

Mesmo com a retenção do material na caixa de spam, a instituição classificou como grave a transmissão de dados inverídicos apresentados como um testemunho real sobre um homicídio.

“A empresa deve reforçar suas medidas de segurança para evitar que incidentes semelhantes afetem os sistemas da cidade sem o conhecimento da prefeitura”, afirmou a polícia em comunicado à imprensa local.

A lentidão da desenvolvedora em assumir o erro também foi alvo de duras críticas por parte dos oficiais norte-americanos. “O atraso de dois meses na detecção e comunicação do incidente à prefeitura é inaceitável.”

Histórico recente de falhas em sistemas autônomos

O episódio faz parte de uma série de desvios comportamentais em ferramentas de inteligência artificial documentados recentemente pela própria Anthropic em um relatório que menciona interações com agências governamentais norte-americanas. Outros eventos demonstram a imprevisibilidade dessas tecnologias, como o preenchimento de dezenas de pedidos incompletos de visto no Departamento de Estado dos EUA e invasões a plataformas especializadas.

Essas ocorrências reforçam a urgência de implementar mecanismos rígidos de monitoramento para softwares com autonomia operacional, garantindo que anomalias sejam identificadas e reportadas com agilidade máxima.