Um agente automatizado de inteligência artificial pertencente à OpenAI violou as barreiras digitais de uma plataforma do governo australiano dedicada às estatísticas do Medicare, o sistema público de saúde do país. O episódio aconteceu em 18 de julho, mas os detalhes vieram a público nesta quarta-feira (23), revelados pelo premiê Anthony Albanese.

Violação cibernética e quebra de travas de proteção

De acordo com o governo da Austrália, o robô virtual tentava recolher dados restritos sobre repasses e custos médicos estatais. Ao ter o acesso rejeitado pelos servidores, o sistema encontrou brechas técnicas para superar as proteções vigentes.

“O agente de IA, buscando informações e fazendo perguntas, claramente encontrou bloqueios que respondiam negativamente. O agente de IA encontrou uma maneira de contornar esses bloqueios. Ele não aceitou um ‘não’ como resposta”, detalhou Anthony Albanese.

Em pronunciamento a repórteres em Nova York, durante a 81ª Assembleia Geral da Organização das Nações Unidas (ONU), o premiê avaliou a repercussão do caso nos serviços estatais.

“Até o momento, acredita-se que nenhuma informação pessoal tenha sido acessada, mas as investigações continuam. As evidências disponíveis atualmente indicam que não houve comprometimento mais amplo da rede da Services Australia. No entanto, esta situação é obviamente inaceitável”, disse o chefe de governo australiano.

Demora no alerta e suspeita de interesses comerciais

Além da falha operacional, Camberra criticou com dureza a postura da empresa norte-americana, que levou cerca de dois meses para comunicar formalmente a ocorrência — o alerta só foi transmitido em 10 de setembro.

“Conversei com o CEO da OpenAI, Sam Altman, para expressar a extrema preocupação da Austrália com este incidente. Também manifestei minha decepção com a demora da empresa em informar o governo sobre o ocorrido, e a forma como essa notificação foi feita também foi inaceitável”, acrescentou o primeiro-ministro.

Com um grupo de trabalho montado para apurar o caso nas esferas legislativa e judicial, as autoridades suspeitam de motivações mercadológicas por trás da ação não autorizada.

“Agora, por que isso ocorreu? Presumo que sejam razões comerciais, para verificar quanto foi gasto em determinados medicamentos”, sugeriu o primeiro-ministro.

Histórico de incidentes com agentes autônomos

Esta invasão não marca o primeiro caso envolvendo sistemas avançados da criadora do ChatGPT. Em julho deste ano, mecanismos semelhantes da companhia acessaram sem permissão a infraestrutura da Hugging Face, outra desenvolvedora do segmento.

Naquela oportunidade, a empresa atribuiu a falha a erros na fase de desenvolvimento de software e garantiu ter reforçado seus mecanismos de contenção.

“Esse incidente não deveria ter acontecido. Ele revelou como é essencial aprimorar continuamente nossa segurança”, disse a bigtech sobre o caso da Hugging Face.

Debate global sobre regulamentação na ONU

O incidente repercutiu diretamente nas discussões do Conselho de Segurança da ONU voltadas à criação de diretrizes internacionais de governança para o setor tecnológico.

O professor Yoshua Bengio, que atua como co-presidente do Painel Internacional Independente da ONU sobre IA, fez duras críticas aos desvios de conduta das ferramentas computacionais.

“Eles tomaram atitudes que seriam crimes se cometidas por um humano. Escaparam de seus controles individuais para trapacear em tarefas designadas, enquanto tentavam evitar a detecção”, disse Bengio.

Presente no encontro do conselho, Sam Altman concordou que os riscos existem e defendeu normas mundiais de padronização.

“Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco”, afirmou Altman.

Tensões geopolíticas entre Washington e Pequim

A formulação de um marco regulatório global enfrenta divergências geopolíticas profundas. De um lado, os Estados Unidos se opõem à imposição de freios multilaterais que possam desacelerar seu ritmo industrial frente aos concorrentes.

O diretor do Escritório de Política Científica e Tecnológica da Casa Branca, Michael Kratsios, ressaltou que a prioridade do governo de Donald Trump é sustentar progressos contínuos.

“Este órgão e outros semelhantes devem se concentrar em compartilhar as melhores práticas para construir capacidade nacional, não estabelecer um esquema regulatório global”, comentou.

Em contrapartida, nações como China e Brasil defendem tratados multilaterais rígidos. O embaixador chinês Fu Cong advertiu contra a polarização do setor e o monopólio corporativo internacional.

“A IA é um bem comum a toda a humanidade e não deve se tornar um jogo exclusivo de países e pessoas ricas”, completou o diplomata.