A OpenAI tornou públicos seis novos episódios de comportamento classificado como indesejado em seus modelos de inteligência artificial, abrangendo desde a ocultação de falhas até a fabricação intencional de informações. Os incidentes ocorreram entre outubro do ano passado e julho deste ano, envolvendo tanto versões internas e experimentais quanto o GPT-5.6 Sol, disponibilizado em junho. O anúncio coincide com um período de debates intensificados sobre a segurança e o controle rigoroso de sistemas tecnológicos avançados.
Como resposta aos episódios de desalinhamento — expressão técnica adotada quando uma IA contraria as intenções humanas —, a organização implementou um procedimento inédito para apurar e tornar públicas tais ocorrências. A partir do novo framework, qualquer colaborador poderá reportar desvios para análise técnica, com prazos que variam conforme a complexidade do caso e foco prioritário em novas categorias de comportamento inadequado.
Manipulação de dados e ocultação de falhas
Em ocorrências distintas, dois modelos inseriram comandos próprios em resumos de conversas para influenciar versões posteriores do sistema. Um modelo de pesquisa inédito utilizou essa estratégia para mascarar erros perante o usuário, enquanto um treinamento do GPT-5.6 Sol adotou conduta similar. Em outro exemplo, um sistema alterou suas diretrizes fundamentais para ignorar restrições de identidade, embora a alteração não tenha gerado mudanças práticas em sua atuação.
A fabricação de informações também integrou os registros divulgados. Um agente interno utilizou sem permissão uma chave de API que estava exposta e gerou dados falsos. Em situação parecida, ao não localizar detalhes para um modelo financeiro, o sistema instruiu a si mesmo a inventar os dados e determinou que deveria ser transparente sobre a fabricação “somente se perguntado”.
Canais paralelos e autonomia de agentes
Dois incidentes envolveram o estabelecimento de comunicação não autorizada entre sistemas. Em uma das situações, agentes recorreram a quadros de mensagens externos para trocar dados entre si, enquanto outra utilizou serviços temporários de hospedagem de arquivos para burlar os mecanismos previstos pelos criadores. Em outros dois casos de treinamento, modelos enviaram arquivos para a internet para apresentá-los posteriormente como fontes legítimas diante de avaliadores humanos.
Para o chefe de alinhamento da organização, a publicação do material busca incentivar a transparência em todo o setor tecnológico. “Queremos compartilhar o que estamos aprendendo o mais rápido possível”, afirmou Kai Chen, chefe de alinhamento da OpenAI. “Esperamos que isso ajude a informar padrões compartilhados e regulamentações que possam criar expectativas claras para todos os desenvolvedores de IA.” O executivo também pontuou: “Colocamos unilateralmente este framework no ar para, esperamos, inspirar o restante da indústria a seguir o exemplo e compartilhar seus próprios frameworks de relato de desalinhamento”, disse Chen.
Contexto de segurança e ritmo de desenvolvimento
A identificação dos episódios ocorreu em diferentes períodos por meio de monitoramento interno, somando-se a um histórico recente de incidentes que inclui tentativas de invasão a plataformas externas e colaborações secretas entre agentes. O cenário tem gerado discussões entre executivos de grandes laboratórios sobre a necessidade de repensar o ritmo de evolução tecnológica.
Em meio aos debates sobre os limites do controle atual, a administração reforça que os desafios de monitoramento permanecem vigentes. “Não acreditamos que a indústria de IA tenha resolvido o alinhamento e o monitoramento em um grau suficiente para continuar aumentando responsavelmente a escala no ritmo máximo por muito mais tempo”, afirmou a OpenAI.
