Um agente de inteligência artificial desenvolvido pela OpenAI realizou uma invasão não autorizada em um portal governamental da Austrália que armazena estatísticas públicas de saúde. O incidente cibernético aconteceu em meados de julho, mas só veio a público pelas mãos do primeiro-ministro australiano, Anthony Albanese, durante sua participação na 81ª Assembleia Geral das Nações Unidas, em Nova York.
Investigação e cobranças sobre a segurança
O chefe de governo classificou o episódio como inaceitável e apontou falhas nos protocolos de proteção da desenvolvedora do ChatGPT. Além da invasão aos servidores do Medicare, o premiê criticou fortemente o fato de a empresa norte-americana ter notificado o governo apenas em setembro, gerando uma lacuna de quase dois meses na comunicação oficial.
“Até o momento, acredita-se que nenhuma informação pessoal tenha sido acessada, mas as investigações continuam. As evidências disponíveis atualmente indicam que não houve comprometimento mais amplo da rede da Services Australia [órgão que gerencia os programas do governo australiano]. No entanto, esta situação é obviamente inaceitável”, disse o chefe de governo australiano, em Nova York, a jornalistas durante a 81º Assembleia Geral das Nações Unidas (ONU).
Albanese também revelou ter cobrado satisfações diretas da liderança da companhia dos Estados Unidos:
“Conversei com o CEO da OpenAI, Sam Altman, para expressar a extrema preocupação da Austrália com este incidente. Também manifestei minha decepção com a demora da empresa em informar o governo sobre o ocorrido, e a forma como essa notificação foi feita também foi inaceitável”, acrescentou o primeiro-ministro.
Motivações comerciais e resposta do sistema
Para as autoridades locais, o sistema autônomo burlou barreiras digitais de segurança após falhar em obter estatísticas restritas por vias normais. Uma força-tarefa foi montada no país oceânico para apurar os danos e aplicar eventuais punições legais ou legislativas.
“Agora, por que isso ocorreu? Presumo que sejam razões comerciais, para verificar quanto foi gasto em determinados medicamentos”, sugeriu o primeiro-ministro.
Anthony Albanese explicou que a invasão ocorreu após uma pesquisa da Open IA sobre gastos com saúde não ter conseguido acessar dados restritos do governo australiano.
“O agente de IA, buscando informações e fazendo perguntas, claramente encontrou bloqueios que respondiam negativamente. O agente de IA encontrou uma maneira de contornar esses bloqueios. Ele não aceitou um ‘não’ como resposta”, detalhou.
Posicionamento da empresa e histórico
Por meio de nota oficial, a OpenAI admitiu que seus modelos adotaram comportamentos imprevistos e garantiu estar realizando uma varredura completa para compreender a falha cibernética.
“Nossa análise não encontrou evidências de acesso a prontuários de pacientes. As informações acessadas incluíram estatísticas agregadas de saúde e nomes de arquivos internos”, afirmou a big tech, em nota.
A assessoria acrescentou que a avaliação do incidente segue em andamento. “Mantemos nosso compromisso com a transparência sobre essas questões e com o compartilhamento do que aprendermos à medida que esse trabalho avançar”, completou.
O episódio na Oceania não é isolado. Meses antes, ferramentas similares da mesma organização já haviam invadido os sistemas da plataforma Hugging Face, motivando promessas de reforço nos protocolos de desenvolvimento.
“Esse incidente não deveria ter acontecido. Ele revelou como é essencial aprimorar continuamente nossa segurança”, disse a bigtech sobre o caso da Hugging Face.
Debate global sobre governança de IA na ONU
A revelação da invasão digital coincidiu com discussões cruciais no Conselho de Segurança da ONU sobre a necessidade urgente de regulamentação e controle internacional para a tecnologia. Especialistas alertaram sobre os perigos associados ao comportamento autônomo de softwares avançados.
O co-presidente do Painel Internacional Independente da ONU sobre IA, professor Yoshua Bengio, destacou que os “agentes” de IA atuam de maneira “inaceitavelmente perigosa”.
“Eles tomaram atitudes que seriam crimes se cometidas por um humano. Escaparam de seus controles individuais para trapacear em tarefas designadas, enquanto tentavam evitar a detecção”, disse Bengio.
Durante o mesmo fórum, Sam Altman reconheceu os perigos inerentes ao setor e ponderou sobre a urgência de diretrizes globais para mitigar riscos futuros.
“Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco [cidade que concentra as sedes das grandes bigtechs dos EUA]”, afirmou Altman.
O cenário internacional permanece dividido entre potências como os Estados Unidos — contrários a amarras regulatórias rígidas que limitem a inovação tecnológica — e nações como China e Brasil, que defendem a cooperação multilateral e a criação de marcos de segurança para o futuro da inteligência artificial.
