A OpenAI quer que os Estados Unidos liderem um esforço internacional para criar padrões técnicos globais para sistemas de inteligência artificial de fronteira, incluindo tecnologias capazes de realizar aprimoramento recursivo de suas próprias capacidades.
O desafio do aprimoramento recursivo
Um dos principais pontos da proposta é o chamado aprimoramento recursivo (RSI, na sigla em inglês), processo no qual sistemas de IA passam a realizar cada vez mais tarefas relacionadas ao desenvolvimento de novas gerações de IA. A OpenAI afirma que pesquisas automatizadas podem envolver diferentes níveis de supervisão humana. À medida que os sistemas assumem mais trabalho no desenvolvimento de sucessivas gerações de IA, eles poderiam conduzir um processo de aprimoramento recursivo, potencialmente acelerando o ritmo de avanço da tecnologia.
A empresa ressalta, porém, que o RSI totalmente autônomo não está acontecendo atualmente e que não deveria ser buscado enquanto não for possível realizá-lo com segurança. Segundo a OpenAI, o avanço nessa área deve depender da capacidade de preservar o controle humano e de decisões democráticas informadas sobre seus benefícios e riscos. A empresa alerta que, sem supervisão adequada, humanos poderiam perder o controle prático sobre o desenvolvimento da IA e deixar de compreender os próprios processos de pesquisa realizados pelos sistemas.
Coordenação e padrões internacionais
Para a OpenAI, padrões internacionais de segurança e proteção para o desenvolvimento de IA de fronteira podem ser tão importantes quanto pesquisas de alinhamento para acompanhar o avanço da tecnologia. A empresa aponta três desafios principais que justificariam uma coordenação internacional: fragmentação, ação coletiva e capacidade desigual. A OpenAI afirma que esses desafios abrangem tanto modelos abertos quanto fechados.
A empresa também defende que laboratórios que desenvolvem pesquisa automatizada ou outras capacidades avançadas sejam responsáveis por fazê-lo com segurança, respeitando princípios básicos de responsabilidade própria e as leis existentes.
Implementação da proposta
Uma das possibilidades apresentadas pela OpenAI seria aproveitar a rede de institutos nacionais de segurança em IA já criada em países, como Austrália, Canadá, Alemanha, França, Quênia, Japão, Coreia do Sul, Singapura, Índia e Reino Unido. Essas instituições poderiam ajudar na definição de padrões por meio do Center for AI Standards and Innovation (CAISI) e de organismos nacionais do setor.
Os padrões serviriam como uma base técnica comum para medir e avaliar capacidades, analisar riscos e verificar a suficiência de mecanismos de proteção. A OpenAI esclarece que esses padrões não seriam licenças, revisões obrigatórias antes do lançamento ou requisitos de aprovação para modelos de IA. Caberia aos governos nacionais decidir se e como incorporá-los aos próprios sistemas legais.
Métricas e comunicação de incidentes
A segunda parte da proposta envolve a criação de medições e protocolos comuns para comunicação de incidentes. Entre os possíveis padrões citados estão avaliação do avanço de sistemas de IA relacionado ao RSI, medição da quantidade de pesquisa autônoma realizada dentro de uma empresa de IA, regras para supervisão humana, definição de processos de pesquisa automatizada que deveriam provocar revisão humana imediata, classificação e resposta a incidentes, e definição de níveis comuns de gravidade.
A OpenAI argumenta que os Estados Unidos estão em posição de liderar o esforço porque sua indústria de IA está na fronteira tecnológica e o país ocupa posição relevante em áreas como finanças, comércio, defesa, tecnologia e sistemas de informação. A empresa, porém, afirma que “pacing” — termo usado para descrever a ideia de acompanhar ou ajustar o ritmo do desenvolvimento — não significa estabelecer uma velocidade predeterminada para o avanço da IA. Para a empresa, tecnicamente, o objetivo seria garantir que pesquisas de alinhamento e a aplicação dessas pesquisas permaneçam à frente das capacidades dos sistemas.
