O setor de inteligência artificial sofreu um colapso em sua cultura interna, de acordo com uma análise divulgada recentemente por David Robinson, ex-responsável por redigir os relatórios de segurança dos principais modelos desenvolvidos pela OpenAI, criadora do ChatGPT.

O modelo operacional do Vale do Silício

Segundo Robinson, o problema no desenvolvimento tecnológico vai muito além de estabelecer diretrizes comuns para o treinamento dos sistemas, exigindo uma reformulação completa na forma como as companhias lidam com os riscos associados à tecnologia.

O especialista criticou o ritmo acelerado e a postura dominante no Vale do Silício, apontando que o setor tecnológico tem priorizado a expansão contínua em detrimento da prevenção de falhas graves.

A comparação com usinas nucleares

Para mitigar os perigos inerentes ao avanço tecnológico, o profissional defende que os principais laboratórios do mundo adotem protocolos de segurança comparáveis aos de setores altamente regulados.

“Diante dos riscos atuais, os laboratórios de ponta precisam operar como usinas nucleares ou aeroportos movimentados, com camadas de redundância e um planejamento cuidadoso e demorado, para que o erro humano – ocasional e inevitável – não abra caminho para um desastre”, disse Robinson.

Além disso, o ex-integrante da OpenAI argumenta que as corporações da área precisam adotar uma postura mais prudente, abandonando a antiga mentalidade do setor de priorizar a velocidade em detrimento da segurança.

A onda de saídas em empresas de destaque

As declarações de Robinson surgem em um momento marcado por pedidos de demissão e alertas públicos feitos por diversos pesquisadores renomados de segurança em gigantes da tecnologia.

O movimento de descontentamento ganhou força com a saída de Jacob Coxon da Anthropic, seguida por manifestações de outros profissionais da mesma empresa e também de especialistas do Google DeepMind preocupados com os rumos da inteligência artificial avançada.