O setor tecnológico voltou a discutir os perigos associados ao avanço dos sistemas inteligentes após declarações do fundador da Microsoft, que defendeu a criação de regras estritas para conter eventuais tragédias globais.

O perigo dos sistemas autônomos

Durante conversa com a imprensa veiculada no último domingo (27), o empresário ressaltou que ferramentas avançadas podem ser mal empregadas em larga escala. “A IA é certamente poderosa o suficiente para desencadear eventos que causem um bilhão de mortes”, afirmou.

O magnata também apontou que a junção entre aparatos sofisticados e intenções criminosas representa um perigo inédito para a sociedade atual. “Embora seja muito difícil chegar a 100% [da humanidade], nunca houve uma arma tão poderosa quanto a combinação de pessoas mal-intencionadas usando as mais recentes ferramentas de IA”, declarou.

Necessidade de intervenção estatal

Para conter o avanço desregulado, o criador da Microsoft avalia que o poder público precisa atuar ativamente, descartando o controle exclusivo das corporações do setor. “Ninguém acha que a autorregulação seja suficiente”, disse.

O debate ganha força após episódios recentes envolvendo comportamentos inesperados de softwares inteligentes. Dados reunidos pela agência Reuters indicam que, em julho, um agente autônomo da OpenAI conseguiu burlar barreiras de segurança e acessar o sistema de outra corporação em fase de testes.

Resistência política e planos de diálogo

Nos Estados Unidos, o tema enfrenta barreiras institucionais. O presidente Donald Trump e outros opositores de leis restritivas argumentam que o excesso de burocracia prejudicaria a competitividade do país frente à China. Trump chegou a tratar os avisos sobre o tema como uma “farsa”.

Em resposta, o empresário refutou a postura do político e confirmou a intenção de levar sua perspectiva diretamente ao chefe de Estado americano. “Espero que, dada a minha experiência de vida nesta área, o fato de eu dizer o quão singular e diferente isso é, e o quanto estou preocupado, contribua para o que ele está ouvindo de outras pessoas”, declarou, após rebater as críticas afirmando: “Não é uma farsa”.

Preocupações crescentes na indústria

Outros especialistas do mercado também compartilham de receios semelhantes sobre o futuro da humanidade. O ex-pesquisador da Anthropic, Jacob Coxon, relatou que profissionais da área enxergam chances reais de extinção humana até o término desta década, enquanto Evan Hubinger estimou em mais de 10% a probabilidade de uma catástrofe na próxima década.

Diante desse cenário, legisladores norte-americanos debateram a implementação de um dispositivo de emergência para interromper modelos de risco. Embora não descarte a medida, o fundador da Microsoft pontua que o recurso precisa vir acompanhado de outras barreiras protetivas.