SaferNet consulta jovens sobre uso de IA para criação de imagens sexuais e prevenção de crimes

A SaferNet Brasil está promovendo uma importante pesquisa para ouvir jovens de 16 a 21 anos de todo o país sobre o uso da inteligência artificial (IA) para a criação de imagens sexuais. A iniciativa faz parte do estudo “Uso indevido de IA generativa: perspectivas sobre riscos e danos centrados em adolescentes”, realizado com recursos do fundo Safe Online, gerido pelo UNICEF. O objetivo é compreender melhor o fenômeno das deepfakes sexuais e seus impactos na vida dos jovens, além de embasar recomendações para prevenir que outros adolescentes se tornem vítimas.

A participação é anônima para quem desejar, garantindo a privacidade dos respondentes. As respostas serão compiladas em um relatório que auxiliará na formulação de estratégias para combater o uso criminoso da IA generativa, especialmente na criação de conteúdos sexualizados indevidos. A pesquisa questiona o grau de conhecimento dos jovens sobre o tema, se conhecem vítimas ou se já criaram esse tipo de imagem, e se sabem que essa prática configura crime.

Juliana Cunha, diretora de projetos especiais da SaferNet e responsável pela pesquisa, destaca a importância de incluir a perspectiva dos adolescentes para entender esse problema: “Para entender o fenômeno das deepfakes sexuais, precisamos incluir a perspectiva dos adolescentes envolvidos no problema. Com dados e evidências, seremos capazes de propor recomendações de como podemos prevenir que outros jovens sejam vítimas, qual o papel das empresas para mitigar esses riscos e como o poder público pode adotar medidas de educação, enfrentamento e responsabilização para a questão.”

O uso indevido da IA generativa tem se tornado um problema crescente nas escolas brasileiras. Um monitoramento realizado pela SaferNet, apresentado em outubro de 2025, revelou que até então a imprensa havia registrado 16 casos de deepfakes sexuais em escolas de 10 estados, abrangendo as cinco regiões do país. Além do ambiente escolar, a disseminação dessas imagens ganhou escala com o uso da plataforma de inteligência artificial do X, que não impediu a criação dessas deepfakes, limitando o acesso ao seu sistema Grok apenas a assinantes. A falta de uma atuação mais rigorosa levou órgãos como o Ministério Público Federal, a Autoridade Nacional de Proteção de Dados (ANPD) e o Ministério da Justiça a recomendarem que a plataforma impeça a geração de conteúdos sexualizados indevidos.

A SaferNet Brasil, que completou 20 anos em dezembro de 2025, é referência nacional na promoção dos direitos humanos na internet. A ONG atua no enfrentamento de crimes cibernéticos, acolhimento de vítimas de violência online e em programas educativos voltados para a prevenção e conscientização. Entre suas iniciativas está o Canal Nacional de Denúncias, conveniado ao Ministério Público Federal, e o Helpline, canal de ajuda para vítimas de violência digital. Em 2024, a SaferNet foi reconhecida como um dos cinco hotlines que mais contribuíram globalmente para a detecção de páginas com material de abuso sexual infantil, segundo relatório da InHope, associação internacional que reúne 57 canais de denúncia em 52 países.

Para participar da pesquisa e contribuir com essa causa, os jovens podem preencher o formulário disponível no link https://bit.ly/enqueteIAnudes. A participação é fundamental para fortalecer a luta contra o uso criminoso da inteligência artificial e proteger adolescentes de danos causados por esse tipo de conteúdo.

Este conteúdo foi elaborado com base em informações da assessoria de imprensa da SaferNet Brasil.

Texto gerado a partir de informações da assessoria com ajuda da estagiárIA