O diretor do Instagram, Adam Mosseri, admitiu publicamente que a plataforma ainda carece de mecanismos eficazes para conter perfis que utilizam deep fakes gerados por inteligência artificial para clonar conteúdos originais.
O avanço dos avatares falsos na rede
O problema foi exposto por criadores de conteúdo que tiveram seus trabalhos apropriados por contas automatizadas. Um dos casos envolveu o comediante norte-americano George Brett Olson, que descobriu um perfil utilizando um avatar feminino gerado por IA para reproduzir uma de suas apresentações de stand-up, mantendo o áudio original, mas alterando totalmente a imagem. Outro exemplo foi citado pela comediante Julia Jasunas, evidenciando que a prática afeta diferentes nichos, como o de dançarinos cujas coreografias são copiadas por personagens virtuais.
Posicionamento da empresa e o desafio do banimento
Questionado sobre a situação, o executivo respondeu diretamente a Olson na rede social e afirmou estar “muito preocupado” com a questão. Apesar disso, ele descartou uma proibição generalizada de materiais produzidos por inteligência artificial, justificando que a tecnologia continuará avançando e gerando conteúdos variados. “Vai ficar cada vez mais difícil de identificar, e nem todo conteúdo é ruim, embora haja muito lixo”, escreveu Mosseri.
Monetização e proteção autoral
Contas que praticam esse tipo de cópia costumam acumular centenas de milhares de seguidores e direcionar tráfego para plataformas externas de monetização. Diante disso, a Meta estuda maneiras de priorizar o alcance dos autores legítimos e lidar com cópias integrais. No entanto, o sistema de denúncias por direitos autorais apresenta falhas operacionais, já que muitos criadores não registram formalmente suas obras.
Dificuldades no sistema de denúncias
A rede social enfrenta o desafio de proteger os produtores sem abrir brechas para fraudes. Segundo o chefe da plataforma, é preciso encontrar uma maneira “de ajudar esses criadores sem permitir que agentes mal-intencionados façam mais denúncias falsas”. O executivo pontuou que esse tipo de abuso “acontece o tempo todo”, tornando o controle automatizado ainda mais complexo.
