AGU derruba site estrangeiro que comercializava deepfakes voltadas à pornografia infantil

A Advocacia-Geral da União (AGU) conseguiu a retirada do ar de site estrangeiro que comercializava deepfakes — imagens falsas criadas a partir de fotos reais — usadas para a produção de pornografia infantil. A derrubada ocorreu após a empresa receber notificação extrajudicial da Procuradoria Nacional da União de Defesa da Democracia (PNDD).

A ação foi demandada pela Secretaria de Comunicação (Secom) da Presidência da República, com base em reportagem investigativa da agência Núcleo, em parceria com AI Accountability Network do Pulitzer Center.

A reportagem do Núcleo expôs uma trama complexa que envolve a produção de pornografia infantil por deepfake, com uso de inteligência artificial (IA). Essas operações são realizadas na dark web, uma parte não visível da internet, cujos sites foram deliberadamente escondidos. Para acessá-los são necessários softwares especializados. A dark web é frequentemente usada por criminosos para ocultar atividades ilegais.

A produção do conteúdo criminoso, de “realismo perturbador”, conforme a reportagem, depende de programas de IA de código aberto — sistemas sem licenciamento comercial que podem ser livremente modificados. Ao manipular essas ferramentas, pedófilos conseguem criar centenas de imagens de exploração e abuso sexual infantil envolvendo crianças reais. As imagens são compartilhadas em fóruns da dark web.

Esses recursos especializados ficam disponíveis em plataformas de compartilhamento de modelos, aplicações e outras tecnologias de IA permitindo que usuários criem mídias artificiais de abuso infantil com facilidade.

Foi um dos sites que alimentava essa cadeia criminosa que a AGU conseguiu derrubar. “A reportagem que embasou nossa atuação apontou para a existência de um mecanismo, com diversos atores, que se aproveitava da abertura de códigos de aplicações de IA para produzir imagens eróticas de crianças e adolescentes. No caso do site em destaque, ele comercializava imagens sintéticas, produzidas através de fotos de crianças reais, que serviam para produzir imagens sexualizadas, as quais, por fim, eram disponibilizadas em fóruns na dark web”, explica o advogado da União Carlos Eduardo de Olivera Lima, da PNDD.

Após ser notificada, a empresa, sediada fora do Brasil, atendeu à solicitação da AGU, reconhecendo a irregularidade das publicações.

A atuação da AGU foi fundamentada pelo Estatuto da Criança e do Adolescente (ECA) e pela Convenção sobre os Direitos da Criança, referência mundial da doutrina de proteção integral.

Assessoria Especial de Comunicação Social da AGU