Detetives sul-coreanas lutam contra deepfakes sexuais na internet Saiba como um centro em Seul combate deepfakes sexuais e apoia vítimas com uma equipe composta apenas por mulheres. Em Seul, um centro especializado criado em 2018 está na linha de frente da luta contra conteúdos sexuais ilícitos online. Focando em deepfakes — imagens ou vídeos pornográficos manipulados sem o consentimento das vítimas —, a iniciativa já ajudou milhares de pessoas a se livrarem de abusos digitais.
Trabalho em equipe para a remoção de conteúdos
Com uma equipe exclusivamente feminina de 23 integrantes, o centro atende a solicitações de vítimas que, muitas vezes, são alertadas por amigos ou familiares sobre a circulação de vídeos comprometedores. Após esse primeiro contato, um sistema de inteligência artificial é acionado para rastrear e identificar versões do mesmo conteúdo em diversas plataformas, facilitando a remoção em redes sociais e sites pornográficos.
Desafios na remoção de deepfakes
A líder da equipe, Kim Hyojung, revela que muitos vídeos estão hospedados em servidores ilegais que ignoram pedidos de remoção. Nesses casos, a polícia pode agir para encerrar o site. Quando os conteúdos estão fora da Coreia do Sul, especialmente nos Estados Unidos, a situação se complica, mas Kim destaca que as autoridades americanas colaboram em até 80% das situações.
O impacto psicológico no dia a dia das profissionais
As detetives enfrentam um desafio adicional: o efeito psicológico de revisar conteúdos frequentemente violentos ou perturbadores. Uma integrante, que optou por se identificar apenas como Park, compartilha que a pressão emocional é intensa. “Algumas colegas desenvolveram insônia, e outras, ao ver certos materiais, chegaram a chorar ou até a pular refeições”, relata Park.
Apoio psicológico e motivação
Para mitigar esses efeitos, o centro oferece acompanhamento psicológico regular, com consultas individuais mensais. Park também menciona a importância do feedback positivo das vítimas como uma fonte de motivação: “Quando recebemos mensagens de agradecimento, isso nos faz sentir que, mesmo de forma modesta, estamos ajudando essas pessoas a superarem momentos difíceis”. Com mais de 1 milhão de conteúdos removidos e 53 mil atendimentos, o centro continua a ser um pilar de apoio para vítimas de deepfakes na Coreia do Sul, destacando a necessidade de uma luta contínua contra esse tipo de crime digital.
