Entre o vácuo legal, o trauma psicológico e a omissão das Big Techs, o uso de inteligência artificial generativa para a criação de pornografia não consensual atinge patamares industriais e desafia as fronteiras da ética e da segurança pública no país

Por Júlia Cardoso da Silva

O clique inicial é banal. Uma foto de perfil no Instagram, um registro de formatura ou uma imagem aleatória em uma rede social. O desfecho, porém, é terrível. Em menos de 30 segundos, ferramentas de Inteligência Artificial (IA) generativa são capazes de deixar qualquer pessoa nua, criando imagens pornográficas hiper-realistas que circulam em grupos fechados antes mesmo que a vítima perceba que sua intimidade foi violada.

Em Blumenau, Santa Catarina, o que parecia o roteiro de um filme de ficção científica tornou-se uma realidade brutal dentro de portões escolares no centro da cidade. Recentemente, alunos de um colégio particular do munícipio foram expulsos após a descoberta de que utilizavam ferramentas de IA para gerar nudes de suas colegas de classe. O acontecimento não apenas chocou a comunidade, mas serviu como o “paciente zero” para uma discussão que agora ganha destaque internacional.

O Abismo das Estatísticas

O caso do Vale do Itajaí é o reflexo de uma epidemia que os dados da SaferNet Brasil ajudam a dimensionar. Segundo o último relatório da organização, 64% de todas as denúncias recebidas em 2025 referem-se a abuso e exploração sexual digital. O mapeamento mostra que deepfakes sexuais já foram identificados em escolas de 10 dos 27 estados brasileiros, indicando que a violência não é apenas geográfica, mas geracional.

A infraestrutura dessa violação reside, em grande parte, em aplicativos de mensagens como o Telegram. Estima-se que mais de 1 milhão de usuários brasileiros participam de grupos focados exclusivamente na distribuição e criação de pornografia não consensual por IA. Nesses espaços, a impunidade é a moeda de troca, protegida por camadas de criptografia.

Para a doutora em Psicologia Social Catarina Gewehr, essa onipresença da ameaça afeta diretamente o desenvolvimento dos jovens. “A adolescência é um momento da vida em que todo o movimento do adolescente tende a uma busca por estabilidade. A ideia de que, a qualquer momento, qualquer pessoa pode fazer uma imagem e distribuir em qualquer rede faz com que a segurança da pessoa fique absolutamente ameaçada. Ela vive sob o peso dessa insegurança”, explica.

A Engenharia da Exploração

A raiz técnica do problema esconde-se nas linhas de código. O desenvolvedor de sistemas Kauê Renan Schade explica que a vulnerabilidade atual das ferramentas de IA é fruto de uma escolha da própria indústria, que priorizou o lucro em detrimento da segurança.

“A indústria avançou rapidamente por causa da corrida tecnológica e comercial. O foco inicial foi desenvolver capacidade e ganhar mercado, enquanto a segurança acabou evoluindo mais lentamente por ser um problema muito mais complexo”, detalha Kauê.

A resposta para a falha reside no treinamento das máquinas, que absorvem indiscriminadamente o que está na internet aberta — um ambiente onde o conteúdo sexualizado é abundante. “Corrigir isso depois é difícil porque modelos treinados em bilhões de dados não podem simplesmente ‘apagar’ comportamentos com uma linha de código. Muitas vezes são necessários retreinamentos e múltiplas camadas extras de proteção”, pontua o desenvolvedor. Para ele, o futuro da fiscalização dependerá da autenticação de origem, com marcas d’água invisíveis e assinaturas criptográficas, e não apenas da análise visual.

A Lente Jurídica

Se o cenário tecnológico é complexo, o ambiente jurídico se transforma em uma verdadeira batalha de interpretações. A advogada especialista em Direito Médico e Direito da Saúde, com profundo conhecimento das questões legais digitais, Dra. Thatyane Jardim Teodoro, aponta que o sistema penal ainda tenta alcançar o ritmo dos algoritmos.

“A legislação vigente atua principalmente no momento da divulgação, e a mera criação de uma imagem sintética por IA ainda navega em uma zona cinzenta jurídica”, afirma Thatyane. Ela explica que o Artigo 216-B do Código Penal pune o registro não autorizado da intimidade, mas a barreira surge na materialidade: “O problema é que esse alcance tem um limite claro: exige conteúdo íntimo e sexual. Para imagens inteiramente sintéticas [criadas do zero], o vácuo existente é grande.”

Essa lacuna se repete até mesmo em casos envolvendo menores. O Artigo 241-C do Estatuto da Criança e do Adolescente (ECA) criminaliza montagens, mas foi pensado para adulterações a partir de fotos reais. “Quando a imagem é 100% sintética, criada do zero por IA sem nenhuma criança real envolvida, parte da doutrina sustenta que aplicar esse artigo configuraria analogia in malam partem — estender a lei para punir uma conduta que ela não descreve expressamente, o que é vedado no direito penal”, esclarece a especialista.

Apesar das brechas, novos contornos jurídicos começam a surgir. Uma decisão histórica do Supremo Tribunal Federal (STF) em junho de 2025 (Temas 987 e 533) mudou o peso das responsabilidades das Big Techs, reconhecendo o “dever de cuidado” das plataformas, que agora podem ser responsabilizadas civilmente por danos causados por conteúdos gerados por usuários.

O Trauma da Imagem “Roubada”

Enquanto o Judiciário discute artigos, as vítimas lidam diretamente com o trauma. A professora Catarina Gewehr observa que a agressão causada pelo deepfake carrega uma característica peculiar: a instabilidade da mentira. “Se põe algo que, não sendo real, afeta de modo contundente, porque passa como sendo real. Isso mina a percepção de segurança dessa pessoa. É tão ruim quanto um fato humano objetivo, mas com uma qualificação de risco maior.”

Para os agressores — frequentemente jovens movidos pelo prazer do constrangimento alheio —, a análise da psicóloga é incisiva. Ela classifica o comportamento como um reflexo de indivíduos solitários, sem conteúdo ético e hiperconectados.

“O fascismo é um fenômeno típico da deepfake: só me importa o meu prazer, a minha busca. Existe um foco no prazer de ver alguém mal”, alerta Catarina. “É uma sociedade que, dessensibilizada do fato humano, se torna fascista. O outro não é nada a não ser um nível a partir do qual eu possa acessar cada vez mais sensações que me satisfazem. Não existe o outro, existe apenas o eu.”

A Reação Global e os Obstáculos de Fronteira

O tema já escalou para a diplomacia global. A recente convocação de Elon Musk para depor na França sobre falhas de moderação na IA do X (antigo Twitter) sinaliza uma mudança de postura: a culpa deixa de ser terceirizada apenas para o usuário final, e a pressão passa a mirar os donos da tecnologia.

Como signatário da Convenção de Budapeste sobre Cibercrime, o Brasil busca acelerar a cooperação internacional, mas esbarra na lentidão diplomática. “A investigação depende inteiramente da cooperação da plataforma e do país onde ela opera. Na prática, a carta rogatória demora muito, e até lá os dados já foram apagados ou o rastro se perdeu”, ressalta a especialista Thatyane Teodoro.

O que fazer se você for vítima?

Para enfrentar a velocidade do dano, os especialistas recomendam um protocolo de urgência, no qual o primeiro instinto — apagar tudo — é o erro mais grave.

Preserve a prova (com método): O print comum da tela de celular é frágil. Como lembra Thatyane, uma decisão de 2024 da 5ª Turma do STJ determinou que prints extraídos sem metodologia adequada não têm validade. “O caminho mais seguro é formalizar essa preservação por meio de plataformas especializadas, como o e-Not Provas ou a Verifact, que empregam técnicas forenses e geram relatórios certificados com validade jurídica.”

Registro Policial e Tutela de Urgência: Procure uma Delegacia de Repressão a Crimes Cibernéticos (ou qualquer delegacia civil) para registrar o Boletim de Ocorrência. Em paralelo, ajuíze um pedido para forçar a remoção do conteúdo diretamente nas plataformas, utilizando a nova jurisprudência do STF.

Apoio psicológico: A Dra. Catarina frisa que lidar com o estigma exige suporte. Buscar acompanhamento médico e psicológico é vital para “limpar o campo que ficou obstruído pela falsidade”.

O Desafio Além do Código

O episódio no colégio em Blumenau não é um caso isolado, mas o sintoma de uma engrenagem digital que se alimenta do sadismo virtual e da vulnerabilidade de seus usuários. Enquanto a estrutura jurídica corre para preencher o vácuo deixado pelas imagens “100% sintéticas” e os desenvolvedores tentam remendar os filtros de segurança após o lançamento das ferramentas, o rastro de danos emocionais e de reputação continua a se expandir pelo país.

A solução definitiva não será encontrada apenas no aprimoramento das leis criminais ou na inserção de novas travas de segurança. O desafio ultrapassa as telas e exige o resgate de uma premissa básica que tem sido negligenciada desde o início da era digital: a ética. Como conclui a professora Catarina Gewehr, é preciso que a sociedade retome um princípio fundamental: “se não serve a mim, não deve servir ao outro”. No mundo da Inteligência Artificial, onde qualquer corpo ou voz pode ser simulado em segundos, a única tecnologia que não pode ser gerada artificialmente é a integridade humana.