–:–:–
Conecte-se conosco

Cientista da OpenAI propõe pausa em IA avançada até maior controle

Medida busca evitar que a tecnologia supere a capacidade humana de monitoramento nos próximos anos.

43 visualizações
Cientista-chefe da OpenAI defende limites para o desenvolvimento de IA no setor

O cientista-chefe da OpenAI sugeriu que as companhias de inteligência artificial estabeleçam restrições conjuntas na evolução de modelos avançados. O objetivo é aguardar o desenvolvimento de métodos mais eficazes para analisar e supervisionar essas tecnologias.

Regras para a indústria Segundo um documento divulgado no domingo, Jakub Pachocki defendeu a elaboração de diretrizes globais para o setor tecnológico. A ideia é que as corporações firmem um compromisso de não ultrapassar certas barreiras antes que critérios rigorosos de segurança sejam atingidos.

“Também proponho limites comuns, baseados em perplexidade e outras métricas, que os desenvolvedores se comprometam a não ultrapassar até que nossa capacidade de compreender e monitorar o comportamento da IA alcance um marco concreto”, escreveu Pachocki.

Métricas técnicas e riscos futuros As restrições poderiam utilizar como parâmetro uma ferramenta técnica chamada perplexidade, que mede a eficiência de um modelo de IA na previsão de sequências textuais. No entanto, o pesquisador não detalhou patamares iniciais ou cronogramas para a implementação.

A urgência da medida estaria ligada à possibilidade de a IA acelerar o próprio progresso a partir de 2027. Caso isso ocorra, o ritmo de evolução pode ultrapassar a habilidade humana de rastrear e compreender as ferramentas digitais.

Apoio da liderança O CEO da OpenAI, Sam Altman, apoiou publicamente a iniciativa e classificou o artigo de Pachocki como “a coisa mais importante que a OpenAI publicou em bastante tempo”. Em postagem na rede social X, o executivo apontou que barreiras padronizadas asseguram maior controle e segurança.

Cenário político nos Estados Unidos O debate ganha força enquanto os EUA articulam novas discussões regulatórias para o setor tecnológico. O cenário político recente e a movimentação no Congresso americano abrem espaço para um maior escrutínio governamental e novas regras de segurança para o ecossistema de inteligência artificial.

Parlamentares avaliam inclusive a instalação de uma comissão no Senado voltada à coordenação de políticas para a área. Por outro lado, divergências com o posicionamento contrariador de Donald Trump a restrições amplas podem gerar atritos políticos com o Legislativo.

Mais em Mundo

Ver tudo →