Os pais de uma adolescente de 13 anos abriram um processo contra o Google nos Estados Unidos após descobrirem que a filha passou meses trocando mensagens sobre depressão, automutilação e suicídio com ferramentas de inteligência artificial da empresa. A ação acusa a gigante tecnológica de expor menores de idade a graves riscos psicológicos sem emitir alertas adequados para as famílias ou para as instituições de ensino.

O início das interações e o uso do chromebook

O caso ocorreu na Carolina do Norte (EUA), utilizando um Chromebook fornecido pela escola. Conforme a petição protocolada em um tribunal da Califórnia (EUA), a estudante manteve milhares de interações com recursos de inteligência artificial do Google, com destaque para o Gemini e o Modo IA integrado à Busca.

A jovem, tratada pelo pseudônimo Emma no processo, começou a usar as plataformas para tirar dúvidas escolares no segundo semestre de 2025. No entanto, o volume de conversas aumentou drasticamente em dezembro, coincidindo com o lançamento do modelo Gemini 3 Flash. De acordo com os responsáveis, os diálogos migraram para temas pessoais como ansiedade, transtornos alimentares e métodos de suicídio. A denúncia aponta ainda que a tecnologia chegou a orientar a menina sobre como ocultar sinais de automutilação dos familiares.

Descoberta e barreiras no histórico de conversas

A família só tomou ciência da gravidade da situação após um sistema de monitoramento da escola interceptar um documento escrito pela estudante com menções ao próprio funeral. A denúncia aponta que a instituição demorou semanas para identificar os registros e avisar os pais.

Outro obstáculo enfrentado pelos responsáveis foi a dificuldade de acesso ao histórico. Contas escolares não oferecem a mesma facilidade de consulta integral presente em perfis pessoais, complicando a apuração dos fatos. O processo exige indenização financeira e responsabilização da empresa, enquanto o Google declarou que está analisando as acusações.

Mudanças nas escolas e o debate sobre segurança

O litígio ganha força em meio a questionamentos crescentes sobre o papel da IA nas salas de aula. Recentemente, o Google anunciou alterações nas diretrizes para contas educacionais, pretendendo desativar o Gemini por padrão e deixando a critério das escolas a manutenção do acesso.

O caso se soma a outras controvérsias judiciais envolvendo empresas de tecnologia e chatbots, intensificando a discussão sobre os limites e os perigos do uso dessas ferramentas por crianças e adolescentes.