Escândalo afeta mais de 500 escolas e universidades, com vítimas menores de idade, usando tecnologia de deepfake em grupos do Telegram.
No último sábado (31/8), Heejin recebeu uma mensagem preocupante, vinda de um remetente anônimo. A mensagem alertava sobre o vazamento de suas informações pessoais e fotos, associando a situação a um conteúdo de pornografia e deepfake.
Esse tipo de conteúdo, que utiliza tecnologia para criar imagens manipuladas, tem se tornado cada vez mais comum, gerando sérios riscos à privacidade das pessoas. É alarmante como a pornografia e as fotos falsas podem ser usadas para prejudicar a reputação de alguém, tornando essencial a conscientização sobre os perigos do uso irresponsável da tecnologia. A proteção da identidade digital é crucial.
O Impacto da Pornografia Deepfake
Quando a estudante universitária da Coreia do Sul entrou no bate-papo para ler a mensagem, ela se deparou com uma foto sua, capturada alguns anos atrás, enquanto ainda estava na escola. Logo em seguida, recebeu uma segunda imagem, que utilizava a mesma foto, mas agora de forma sexualmente explícita — e completamente falsa. Apavorada, Heejin, que não é seu nome verdadeiro, decidiu não responder, mas as imagens continuaram a chegar. Em todas elas, seu rosto foi anexado a um corpo realizando um ato sexual, utilizando a sofisticada tecnologia de deepfake. A pornografia deepfake — que, em sua essência, combina o rosto de uma pessoa real com um corpo falso em situações sexualmente explícitas — está sendo gerada cada vez mais através de ferramentas avançadas de inteligência artificial.
Compreendendo o Deepfake
O trauma devastador enfrentado por quem teve suas imagens utilizadas em ‘deepfakes’ pornôs é inegável. ‘Fiquei petrificada, me senti tão sozinha’, relatou Heejin à BBC. Contudo, ela não estava sozinha nessa situação. Apenas dois dias antes, a jornalista sul-coreana Ko Narin havia publicado o que se tornaria um marco em sua carreira. Recentemente, surgiram informações de que a polícia estava investigando redes de pornografia deepfake em duas das principais universidades do país, e Ko estava convencida de que havia muito mais a ser descoberto.
Artigos Relacionados
Redes de Compartilhamento de Conteúdo
Ela começou a investigar nas redes sociais e encontrou dezenas de grupos de bate-papo no aplicativo de mensagens do Telegram, onde os usuários compartilhavam fotos de mulheres que conheciam. Usando um software de inteligência artificial, eles convertiam essas fotos em imagens pornográficas falsas em questão de segundos. ‘A cada minuto, as pessoas enviavam fotos de garotas que conheciam e pediam que fossem transformadas em deepfakes’, revelou Ko à BBC. Ela descobriu que esses grupos não se restringiam apenas a estudantes universitárias; havia salas de bate-papo dedicadas a escolas específicas do ensino médio e até mesmo do ensino fundamental.
A Gravidade da Situação
Se um número excessivo de conteúdo fosse criado usando imagens de uma aluna em particular, ela poderia até ganhar sua própria sala. Essas salas, frequentemente rotuladas como ‘salas de humilhação’ ou ‘salas de amigas de amigos’, costumam ter critérios de entrada rigorosos. A reportagem de Ko, publicada no jornal Hankyoreh, causou um grande impacto na Coreia do Sul. Na segunda-feira (2/9), a polícia anunciou que estava considerando abrir uma investigação sobre o Telegram, seguindo o exemplo das autoridades da França, que recentemente acusaram o fundador do aplicativo de crimes relacionados à plataforma. O governo prometeu implementar punições mais severas para os envolvidos, e o presidente pediu uma maior educação entre os jovens.
A Resposta do Telegram
O Telegram, por sua vez, afirmou que ‘combate ativamente conteúdo prejudicial em sua plataforma, incluindo pornografia ilegal’, em uma declaração enviada à BBC. A situação é alarmante, pois revela como a tecnologia de deepfake pode ser utilizada para criar conteúdo sexual manipulados que afetam a vida de muitas pessoas. A luta contra a pornografia deepfake é apenas o começo de um debate mais amplo sobre privacidade, consentimento e as implicações éticas da tecnologia moderna.
Fonte: © G1 – Tecnologia
Comentários sobre este artigo