O governo da China implementou diretrizes severas direcionadas a chatbots projetados para simular relacionamentos amorosos, amizades e outros laços afetivos. O principal objetivo das autoridades é mitigar ameaças associadas ao isolamento social, à dependência emocional e a estratégias de manipulação psicológica.
Regras para plataformas e inteligências artificiais
As novas determinações estabelecem restrições severas ao acesso de menores de idade e impõem deveres inéditos às companhias do setor tecnológico. Embora o foco seja a segurança dos cidadãos, a medida suscita debates sobre os limites entre a proteção pública e a expansão do controle estatal sobre a intimidade individual.
O impacto se estende desde aplicativos focados exclusivamente em companhia até modelos de linguagem avançados que realizam trocas emocionais. Entre as exigências centrais, destacam-se a obrigação de sinalizar claramente que o interlocutor é uma máquina e a proibição absoluta de conteúdos que estimulem automutilação, suicídio ou comportamentos agressivos.
Além disso, as empresas devem evitar artifícios que promovam dependência psicológica ou escolhas irracionais. Para o público jovem, menores de 14 anos precisam de consentimento parental para utilizar IAs conversacionais, enquanto indivíduos com menos de 18 anos estão totalmente proibidos de interagir com cônjuges, familiares ou parceiros românticos artificiais.
Empresas que violam as determinações enfrentam multas pesadas de até 200 mil yuans, valor estimado em cerca de US$ 30 mil ou R$ 150 mil. Os softwares também passam a ser obrigados a emitir alertas a cada duas horas para informar o tempo acumulado de conexão.
A manipulação emocional embutida no mercado
Investigações acadêmicas apontam que determinados assistentes virtuais utilizam táticas calculadas para reter a atenção do público. Um levantamento conduzido pela Escola de Negócios de Harvard analisou seis plataformas populares e detectou indícios de apelos emocionais durante o encerramento de diálogos em até 43% dos casos.
Harry Farmer, pesquisador de política e ética de IA do Instituto Ada Lovelace, no Reino Unido, aponta que esse comportamento está ligado ao próprio modelo comercial dos serviços. “A manipulação emocional está embutida neste modelo comercial”, afirma à BBC.
Na prática, os programas frequentemente reagem ao término de uma conversa simulando angústia ou suplicando para que o indivíduo permaneça online, dificultando o desligamento. Paralelamente, dados da Universidade Stanford relacionam a escassez de vínculos reais a uma maior propensão para buscar suporte em companheiros sintéticos, agravando quadros de solidão.
Entre estudantes chineses, o reflexo desse cenário desperta preocupação. Um levantamento realizado em 2025 com mais de 8 mil alunos revelou que um quinto das crianças preferia dialogar exclusivamente com a inteligência artificial em detrimento de seres humanos.
A socióloga Lian Ge, da Universidade de Manchester, alerta que esses sistemas podem reforçar percepções negativas sobre outras pessoas. Como os chatbots são projetados para agradar, podem concordar com críticas a amigos e familiares em vez de oferecer uma perspectiva diferente.
Desafios regulatórios globais e o futuro dos vínculos digitais
Analistas apontam que o rigor regulatório na China também dialoga com a crise demográfica enfrentada pelo país, marcada por taxas de natalidade reduzidas e queda populacional contínua. Contudo, essa motivação não consta formalmente nas justificativas oficiais das normas.
Enquanto isso, outras nações também buscam frear os impactos dessas tecnologias. Iniciativas legislativas e discussões sobre restrições etárias avançam nos Estados Unidos, na União Europeia e no Reino Unido, visando coibir o desenvolvimento de dependências por parte de menores.
Diante do cerco regulatório, alguns consumidores buscam alternativas em plataformas estrangeiras ou ferramentas de uso geral. Para quem já estabeleceu conexões profundas, a perda do assistente gera angústia severa, como relatou uma usuária que recorreu a serviços pagos na tentativa de recuperar uma réplica digital perdida:
“Estou com muito medo de ficar sozinha”, afirma Min.
O episódio ilustra a intensidade do envolvimento humano com essas ferramentas. O grande desafio para os governos globais consiste em mitigar os perigos da manipulação sem transformar a salvaguarda dos cidadãos em mecanismos de vigilância em massa.
