Criminosos estão usando o Telegram para espalhar pornô deepfake de brasileiras

Criminosos estão se juntando em grupos de ódio no Telegram para criar e compartilhar imagens pornô falsas a partir de fotos reais de mulheres brasileiras com o uso de ferramentas de inteligência artificial. Conforme revelou reportagem da BBC nesta quinta-feira (18), as montagens são feitas sob encomenda e geralmente afetam pessoas próximas de quem está pedindo, como vizinhas, colegas e até parentes.

Uma das vítimas foi a bartender “Ana” (nome fictício), que teve uma foto sua modificada por meio da IA. A imagem original, na qual ela está ao lado da mãe, foi alterada para que ambas aparecessem nuas. A mãe da vítima é senhora religiosa de 65 anos.

• Leia também: Quais são os impactos da deepfake na vida da vítima?

Ferramentas de IA avançadas otimizam o trabalho de manipulação das fotos. (Imagem: Getty Images)

A imagem de pornô deepfake foi compartilhada com um link para o perfil da mulher no Instagram. Ela descobriu que havia sido alvo de um desses grupos por meio de mensagens na rede social e decidiu investigar o caso.

Ana acredita que a montagem seja uma represália a uma postagem compartilhada no Facebook. A publicação alertava que participantes de uma comunidade na plataforma da Meta estavam manipulando fotos de mulheres conhecidas, adicionando rostos das vítimas a cenas de sexo ou inserindo corpos nus nas imagens originais.

Comunidades de pornô deepfake

Em busca dos autores da montagem, a bartender se deparou com várias páginas no Facebook que promovem comunidades de pornô deepfake no Telegram. Durante a investigação, ela conseguiu acesso a um grupo fechado no app de mensagens e compartilhou os detalhes com a BBC.

De acordo com a publicação, os participantes encomendam deepfakes pornô com fotos de mulheres que seriam suas conhecidas e recebem a imagem alterada algum tempo depois. Os diálogos entre eles também chamaram a atenção, com grande quantidade de conteúdos misóginos.

• Saiba mais: Câmara aprova PL que aumenta pena de crimes com uso de IA contra mulheres

Os criminosos despejam ódio contra as mulheres em grupos nas redes sociais e no Telegram. (Imagem: BBC/Reprodução)

Ana descobriu os dados de um dos administradores e os repassou à polícia, em São Paulo (SP). Junto com outras vítimas, ela planeja responsabilizar judicialmente as pessoas que cuidam do grupo no Telegram.

O que dizem as plataformas?

À reportagem da BBC, a Meta disse que usa IA e equipes humanas na revisão de conteúdos no Facebook e no Instagram. Segundo a big tech, as postagens que violam as políticas da empresa podem ser removidas.

• Confira: Imagens feitas por IA sobre eleições já dominam redes sociais, diz estudo

Já o Telegram informou que tem moderado “conteúdos prejudiciais” desde a sua criação. A plataforma revelou ter um sistema de monitoramento proativo, combinado aos relatos de usuários, capaz de remover “milhões de itens de conteúdo prejudicial todos os dias”.