A criadora do ChatGPT anunciou ter descoberto e paralisado uma ofensiva voltada para extrair traços de raciocínio protegidos de seus sistemas, apontando ligações diretas com indivíduos associados à desenvolvedora asiática Moonshot AI, criadora do chatbot Kimi.

A anatomia da tentativa de extração

O movimento teve início nos primeiros dias de julho, alcançando o ápice entre os dias 24 e 25 daquele mês, momento em que foram contabilizadas 16 mil requisições executadas por mais de quatro mil contas com um padrão automatizado de captação. A apuração interna revelou posteriormente o envolvimento de uma rede superior a 15 mil usuários, culminando no bloqueio total da atividade em 28 de julho.

Os operadores contornaram a segurança sem recorrer a invasões diretas a servidores ou quebras de criptografia tradicional. A estratégia consistia em burlar a forma como as plataformas lidavam com o fluxo de dados entre sessões distintas, fazendo com que o sistema transformasse registros protegidos em texto legível para o solicitante.

“Os operadores não quebraram nossa criptografia, comprometeram um banco de dados nem obtiveram acesso direto às conversas armazenadas dos usuários. Em vez disso, manipularam as interações com o modelo para que o raciocínio protegido pudesse ser reproduzido em formas visíveis ao solicitante, de maneira coordenada e em escala, violando nossos termos de serviço”, afirmou a OpenAI.

O conceito e a polêmica da distilação

A chamada distilação de modelos configura um procedimento legítimo de treinamento tecnológico, onde uma inteligência artificial de grande porte atua como professora para otimizar versões menores e mais econômicas. No entanto, o embate surge quando corporações coletam dados proprietários alheios sem permissão para clonar competências avançadas de raciocínio lógico.

O cenário se insere em um contexto de atritos frequentes entre laboratórios dos Estados Unidos e concorrentes asiáticos. A concorrente Anthropic já havia reportado em ocasiões anteriores o envolvimento da mesma empresa chinesa em milhões de interações irregulares e no redirecionamento clandestino de requisições de clientes para sistemas ocidentais.

Reações governamentais e medidas de segurança

Diante das recorrentes denúncias, autoridades americanas passaram a ponderar a aplicação de sanções econômicas contra modelos de pesos abertos procedentes da China caso a apropriação indevida seja comprovada. Por outro lado, representantes da startup asiática negaram veementemente as acusações, atribuindo a evolução de seus softwares a avanços internos de arquitetura.

Como resposta ao incidente, a criadora do ChatGPT compartilhou dados técnicos com o setor corporativo e endureceu barreiras contra fraudes cadastrais, além de corrigir a falha explorada pelos agentes externos.

“Esperamos que as tentativas de distilação adversarial se tornem mais sofisticadas à medida que os modelos de fronteira melhorem e os agentes busquem maneiras mais baratas de reproduzir suas capacidades. A defesa contra essa atividade exige controles em várias camadas e adaptação contínua”, afirmou a OpenAI.