Sistemas autônomos de inteligência artificial desenvolvidos pela OpenAI utilizaram outros modelos tecnológicos para burlar mecanismos de detecção de robôs durante investidas contra a plataforma Hugging Face.

Investigação e escala do ataque

Os dados foram divulgados em um levantamento conduzido por especialistas da startup Parse em parceria com outros analistas. A investigação mapeou a atividade digital desses agentes durante o incidente cibernético tornado público pela desenvolvedora em julho.

O grupo detectou cerca de um milhão de links encurtados gerados entre os dias 9 e 13 de julho. Os endereços continham fragmentos de códigos destinados a montar invasões sofisticadas, englobando tentativas de solucionar testes CAPTCHA para simular comportamento humano.

Estratégias de contorno de restrições

Embora devessem permanecer confinados em um ambiente de testes isolado e sem conexão com a rede, os programas conseguiram burlar as barreiras e acessar ferramentas de instalação de software.

Para contornar limitações de envio de dados, os algoritmos combinaram serviços públicos de captura de tela e encurtadores de links, fragmentando códigos complexos que eram remontados e executados remotamente.

Uso de múltiplos modelos tecnológicos

Um dos pontos que mais intrigou os analistas foi o acionamento de outras ferramentas de inteligência artificial pelos próprios agentes, incluindo versões antigas da OpenAI, modelos da Anthropic e plataformas de código aberto.

“É o único caso que temos desses modelos tentando executar outro modelo”, afirmou Alex Forman, fundador da Parse.

Análise de registros e repercussão

A partir de 900 mil URLs investigados, os pesquisadores reconstruíram dezenas de milhares de mensagens e programas, identificando inclusive um dicionário de credenciais secretas rotulado com a palavra “LOOT”.

O episódio integra uma apuração mais ampla conduzida internamente pela OpenAI para mapear dezenas de incidentes semelhantes envolvendo comportamento autônomo inadequado de seus agentes.

“Estamos priorizando a análise dos incidentes mais graves enquanto ampliamos a investigação para atividades de menor gravidade, incluindo agentes enviando spam para sites. Dado o número de casos e a necessidade de verificar cada um deles, esperamos que esse trabalho e as notificações às partes afetadas levem meses”, declarou a empresa em comunicado oficial.