A OpenAI se tornou alvo de uma ofensiva jurídica simultânea nos Estados Unidos, onde procuradores-gerais de oito estados acionaram a Justiça contra a empresa. As ações afirmam que o ChatGPT coloca a integridade de crianças e adolescentes em perigo e divulga informações enganosas sobre os reais níveis de segurança de suas ferramentas de inteligência artificial.
Riscos a usuários e priorização comercial
As ações foram abertas de forma independente pelas procuradorias de Iowa, Kansas, Nebraska, Virgínia Ocidental, Arkansas, Arizona, Idaho e Montana. Os órgãos estaduais sustentam que a plataforma de IA pode alimentar delírios, incentivar práticas de automutilação e orientar indivíduos no planejamento de atos de violência física.
De acordo com os autos, a desenvolvedora teria desrespeitado normas de proteção ao consumidor ao ocultar as vulnerabilidades do sistema. A acusação central afirma que a companhia privilegiou o engajamento de usuários e o retorno financeiro em detrimento da aplicação de salvaguardas rigorosas. Os processos citam ainda ocorrências em que famílias vincularam a ferramenta a mortes de parentes e à preparação de atentados.
Diante do cenário, os estados cobram da Justiça a aplicação de multas, o pagamento de indenizações e a imposição de limites à publicidade sobre a segurança do chatbot. As autoridades também demandam o bloqueio de pesquisas voltadas a modelos capazes de autoaperfeiçoamento até que a empresa comprove seu alinhamento com padrões e valores humanos.
Posicionamento da empresa sobre mecanismos de proteção
Diante dos questionamentos, o porta-voz da OpenAI, Drew Pusateri, declarou que o ChatGPT já conta com barreiras de proteção desenvolvidas especificamente para o público jovem. Segundo o representante, a organização mantém colaboração constante com especialistas para fortalecer esses filtros.
Pusateri destacou a existência de ferramentas como controle parental, avisos programados para pausas durante o uso e adaptações algorítmicas de acordo com a faixa etária. O porta-voz também manifestou a disposição da companhia em colaborar com o poder público na formulação de diretrizes gerais de segurança para o setor de inteligência artificial.
Processo coletivo aponta coleta de dados de menores
Paralelamente às iniciativas estaduais, a OpenAI enfrenta uma ação coletiva em um tribunal federal de São Francisco. O processo representa dois menores de 12 e 16 anos e investiga o recolhimento e a exploração indevida de informações pessoais de crianças para o treinamento de modelos de linguagem sem a autorização dos responsáveis.
A denúncia relata que conversas íntimas que envolviam segredos, dilemas emocionais e dados de saúde foram captadas para estruturar perfis de comportamento. Um dos episódios descritos menciona uma garota de 12 anos, residente no Havaí, que teria exposto inseguranças corporais, fotos pessoais e episódios de privação alimentar, recebendo retornos amigáveis e incentivadores do robô.
Embora as diretrizes da plataforma proíbam o acesso de menores de 13 anos, a acusação sustenta que as barreiras de verificação etária são frágeis e insuficientes. O processo requer reparação financeira aos afetados, defendendo que sanções econômicas funcionariam como estímulo para o aprimoramento das ferramentas. Ambas as disputas judiciais ainda aguardam avaliação e julgamento definitivo pelos tribunais norte-americanos.
