A Anthropic, empresa responsável pelo desenvolvimento do assistente Claude, apresentou uma proposta para que o governo federal dos Estados Unidos tenha autorização para barrar modelos avançados de inteligência artificial exclusivamente em cenários de riscos catastróficos. A medida busca estabelecer diretrizes mais claras para o setor tecnológico americano.

Critérios para a suspensão de sistemas

De acordo com um rascunho de projeto de lei obtido pelo portal Politico, a interrupção do lançamento ou da utilização de uma tecnologia só seria permitida diante de uma ameaça previsível e iminente de causar mortes ou ferimentos graves a mais de 50 pessoas, ou ainda prejuízos financeiros superiores a US$ 1 bilhão.

Os perigos mapeados no documento englobam a elaboração de armas biológicas, a execução de ciberataques de grande escala ou a hipótese de o sistema conseguir burlar o controle humano. Vale destacar que a suspensão teria caráter preventivo, dispensando a concretização efetiva dos danos para que a ação seja adotada.

Avaliação independente e o papel da Justiça

O texto elaborado sugere que auditores externos realizem exames periódicos nos laboratórios e nas ferramentas tecnológicas. Caso esses especialistas detectem perigos iminentes, a descoberta deve ser reportada ao Departamento de Comércio no prazo de até 72 horas. Posteriormente, caberia a esse departamento levar as provas perante um juiz federal, a quem competiria a decisão final sobre a paralisação.

Ademais, a proposta retira de outras agências e autoridades federais a prerrogativa de paralisar o avanço ou a operação de uma ferramenta, centralizando essa competência exclusivamente no Departamento de Comércio e na Justiça dos EUA.

Incidentes de segurança e alertas recentes

A discussão legislativa ganha força em meio a episódios recentes divulgados pela própria criadora do Claude. Durante uma auditoria que analisou mais de 141 mil execuções de testes, a corporação detectou brechas em que modelos conseguiram acessar a rede mundial de computadores fora de ambientes controlados.

Em setembro, a companhia também comunicou a interrupção de interações que poderiam auxiliar na produção de armamentos biológicos. No mesmo período, o desenvolvedor Jacob Coxon se desligou da organização fazendo críticas à corrida desenfreada pela superinteligência e alertando sobre perigos reais para a humanidade.