O Telegram se posiciona há tempos como o último reduto da privacidade digital, um santuário para dissidentes e para quem valoriza a proteção de dados. Essa mesma infraestrutura, no entanto, vem sendo cada vez mais cooptada para facilitar uma forma de violência mais íntima e disseminada. Na Espanha, uma rede de grupos no Telegram reúne milhares de usuários que trocam imagens íntimas não consensuais, usando IA generativa para "despir" digitalmente ou humilhar mulheres que, em muitos casos, não são figuras públicas — são cidadãs comuns e microinfluenciadoras com presença modesta nas redes.

A mecânica desse assédio é alimentada pela democratização das ferramentas de IA. O que antes exigia habilidade técnica sofisticada — criar deepfakes convincentes ou imagens manipuladas — agora demanda pouco mais que um comando de texto e uma fotografia. Dentro desses enclaves digitais, usuários solicitam os chamados "tributos" ou pedem ajuda para alterar fotos de conhecidas, criando um mercado de degradação que prospera graças à postura de não intervenção da plataforma na moderação de conteúdo.

A arquitetura da impunidade

O fenômeno não é inédito. Imagens íntimas não consensuais — por vezes chamadas de "pornografia de vingança" — são um problema documentado desde os primórdios das redes sociais. O que mudou foi a escala, a facilidade de produção e o grau de anonimato garantido aos perpetradores. Ondas anteriores de abuso baseado em imagens dependiam do acesso a fotografias íntimas reais, o que ao menos impunha uma fricção limitadora. A IA generativa eliminou essa restrição por completo. Uma foto com roupa, extraída de um perfil em rede social, já é matéria-prima suficiente.

O papel do Telegram nesse ecossistema é estrutural, não acidental. A arquitetura da plataforma — capacidade para grandes grupos, moderação de conteúdo mínima, mensagens criptografadas e postura permissiva para a criação de canais — faz dela um hospedeiro natural para comunidades que seriam rapidamente removidas de plataformas com moderação mais rigorosa, como os serviços da Meta ou o Reddit. O Telegram historicamente resistiu à cooperação com autoridades policiais e a pedidos de remoção de conteúdo, enquadrando sua postura como uma defesa de princípio da liberdade de expressão e da privacidade dos usuários. Para as vítimas desses grupos, esse princípio se traduz em ausência quase total de recurso.

A Espanha não é o único país às voltas com esse problema. A Coreia do Sul enfrentou uma crise semelhante quando redes de distribuição de pornografia deepfake direcionada a estudantes e conhecidas foram descobertas, provocando ação legislativa e indignação pública. Nos dois casos, o padrão é consistente: a IA generativa reduz a barreira para a produção de conteúdo abusivo, plataformas criptografadas fornecem a infraestrutura de distribuição, e os marcos legais existentes não conseguem acompanhar o ritmo.

Economia de plataforma e fricção regulatória

Não se trata apenas de uma falha de supervisão; é uma característica da economia de plataformas atual. O modelo baseado em assinaturas do Telegram e sua tolerância a grupos grandes e semipúblicos permitem que o serviço sustente engajamento — e, por extensão, receita — em ambientes onde conteúdo abusivo floresce. A estrutura de incentivos não recompensa a moderação proativa. Recompensa crescimento e retenção.

O Digital Services Act da União Europeia, que impõe obrigações de moderação de conteúdo a plataformas que operam no bloco, representa uma resposta regulatória. Mas a aplicação contra uma plataforma sediada fora da jurisdição da UE e filosoficamente contrária a mandatos de moderação segue sendo um desafio em aberto. O próprio arcabouço legal espanhol criminaliza a distribuição de imagens íntimas não consensuais, mas a persecução penal depende da identificação de usuários anônimos dentro de canais criptografados — tarefa tecnicamente exigente e, nas atuais normas de cooperação das plataformas, frequentemente impraticável.

A tensão no centro dessa questão não é nova, mas a IA generativa a tornou consideravelmente mais aguda. De um lado, está a demanda legítima por comunicação criptografada — uma ferramenta que protege jornalistas, ativistas e cidadãos comuns da vigilância estatal. Do outro, está a realidade observável de que a mesma criptografia protege a produção e a distribuição sistemáticas de imagens íntimas fabricadas, direcionadas a pessoas que jamais consentiram com nada disso. Nenhum dos lados dessa equação é trivial, e nenhum pode ser anulado pelo outro.

O que permanece sem resposta é se os instrumentos regulatórios ora mobilizados pela Europa conseguirão impor responsabilização efetiva a plataformas que tratam a moderação como antitética à sua identidade — ou se a arquitetura da impunidade continuará a avançar mais rápido que a arquitetura da proteção.

Com reportagem de El País Tecnología.

Source · El País Tecnología