A SaferNet participou nesta quarta-feira (25) do Fórum de Governança da Internet (IGF, 2025), organizado pela ONU, em Lillestrom, Noruega. A ONG participou do debate “Combate às deepfakes sexuais: protegendo adolescentes globalmente” que abordou, entre outros temas, como escolas poderão implementar cidadania digital e conhecimento sobre os perigos das deepfakes sexuais. 

No Brasil, várias escolas, especialmente da rede particular, têm enfrentado problemas com a alteração de imagens reais com inteligência artificial (deepfakes) com conteúdo sexual. Aplicativos divulgados em redes sociais e vendidos em grupos e fóruns criados em aplicativos de mensagens, por exemplo, permitem a “nudificação” de uma imagem, ou seja, modificar uma foto verdadeira de uma pessoa em qualquer traje, fazendo com que ela apareça nua. 

Geralmente, as vítimas das deepfakes são meninas e os autores, meninos. A manipulação de imagens de pessoas menores de 18 anos para conteúdo de nudez ou ato sexual é um ato infracional equivalente ao crime de “pornografia infantil”. Além da difusão das imagens de nudez criadas com inteligência artificial, os casos acabam envolvendo o ciberbullying e a extorsão sexual, quando o autor da imagem chantageia a vítima para não divulgar a foto ou o vídeo criado com IA. 

Além da SaferNet, o debate do qual a ONG participará terá representantes da China, Coreia do Sul e da Europa. 

No debate, a diretora de projetos especiais da SaferNet falou do estudo “Uso indevido de IA generativa: perspectivas sobre riscos e danos centradas nas crianças” que está sendo conduzido pela ONG sobre o uso de IA para assédio sexual, ciberbullying e extorsão sexual contra crianças e adolescentes. Juliana apresentou também dados das pesquisas realizadas pelo projeto Discover da SaferNet, no Telegram, sobre disseminação de imagens de abuso e exploração sexual infantil nessa plataforma.

O projeto brasileiro, um estudo qualitativo, financiado com recursos do fundo SafeOnline, gerido pela Unicef, tem metodologia participativa e contará com a participação direta de jovens para a geração de dados com a visão de adolescentes sobre suas experiências relacionadas aos riscos e ameaças trazidos por imagens de abuso sexual e nudez geradas por IA generativa. 

“O estudo que está sendo realizado pela SaferNet visa preencher uma lacuna em dados qualitativos sobre o mau uso de IA generativa no Brasil visando a recomendação de políticas baseadas em evidências e centradas nas crianças que possam ir além do pânico moral e abordagens meramente punitivas e focar na criação de conhecimento sobre o impacto dessas imagens e o abuso e exploração sexual infantil online, ciberbullying, assédio e extorsão sexual e a criação de estratégias de prevenção desses crimes”, afirmou a diretora de projetos especiais da SaferNet, Juliana Cunha, que está na Noruega para o IGF2025 e participará do debate. 

O debate dessa quarta-feira tratou de medidas legais e educacionais que sejam efetivas para discutir os impactos da criação e divulgação de deepfakes sexuais entre adolescentes nas escolas; como o currículo escolar pode incluir a cidadania digital e conhecimento sobre os perigos das imagens sexuais criadas com IA generativa e que medidas pró-ativas podem ser implementadas pelos países para antecipar as mudanças tecnológicas e prevenir os perigos das deepfakes sexuais contra os adolescentes de todo o mundo. 

Os participantes do debate, de acordo com o site do IGF2025, “terão uma compreensão mais clara de quão séria e disseminada se tornou a questão das deepfakes sexuais entre crianças e adolescentes em várias partes do mundo”. 

Sobre a SaferNet

A Safernet completará 20 anos de existência em dezembro deste ano. Durante sua trajetória, a ONG brasileira tornou-se referência na promoção dos direitos humanos na internet. Com uma abordagem multissetorial, atua no enfrentamento aos crimes cibernéticos contra os Direitos Humanos, no acolhimento de vítimas de violência online e em programas de educação, prevenção e conscientização. 

A Safernet mantém o Canal Nacional de Denúncias, conveniado ao Ministério Público Federal e o Canal de Ajuda, o Helpline, para vítimas de violência e outros problemas online. A Safernet promove o uso seguro da internet com projetos educacionais como a Disciplina de Cidadania Digital. 

Texto publicado em 24/06/2025 e editado em 25/06/2025. Foto e link da apresentação inseridos em 25/06/2025.

SERVIÇO

IGF 2025, Lillestorm, Noruega, Sala 1 (Room 1)

Debate: Combate às deepfakes sexuais: cuidando dos adolescentes globalmente (Combating Sexual Deepfakes: Safeguarding Teens Globally)

Com Yi Teng Au, Ji Won Oh, representantes da Coreia do Sul, Kenneth Leung (China), Janice Richardson (França) e Juliana Cunha (SaferNet Brasil). 

Quando: 25 de Junho de 2025

Veja o debate aqui.