Foto: Divulgação

Na última quinta-feira, 25, as redes sociais foram tomadas por uma onda de indignação dos fãs de Taylor Swift após a viralização de imagens falsas e sexualmente explícitas geradas por Inteligência Artificial. O conteúdo, amplamente compartilhado em plataformas como Reddit, Facebook e Instagram, desencadeou uma resposta imediata da comunidade online e levantou sérias preocupações sobre a disseminação desenfreada de deepfakes.

Um dos posts, inicialmente hospedado no X e identificado como “Taylor Swift IA”, alcançou uma audiência de mais de 45 milhões de visualizações em aproximadamente 17 horas antes de ser removido, de acordo com informações do The Verge. O X, que proíbe expressamente o compartilhamento de deepfakes gerados por IA, enfrenta dificuldades em detectar e remover rapidamente conteúdo proibido antes que ele se espalhe.

Os fãs da cantora, conhecidos como Swifties, reagiram de diversas maneiras à situação. Muitos deles inundaram as redes sociais com fotos autênticas de Swift na tentativa de enterrar as imagens falsas e dificultar sua visibilidade em buscas na plataforma X. Até o momento, nem o X nem a equipe de Swift se pronunciaram sobre o incidente.

O modelo de IA utilizado para criar essas deepfakes ainda está disponível para compra em sites especializados, o que levanta preocupações sobre a persistência do problema. Enquanto o aplicativo estiver acessível, qualquer pessoa com conhecimento técnico poderá gerar novas imagens, tornando desafiador o controle do conteúdo.

Este incidente envolvendo Swift pode catalisar uma ação mais ágil por parte dos legisladores em relação à regulamentação da pornografia deepfake. No ano passado, a cantora já havia chamado a atenção do senado americano para essa questão, porém, até o momento, nenhuma nova legislação foi aprovada.

O congressista Joe Morelle propôs recentemente uma legislação para criminalizar a pornografia deepfake, após um incidente envolvendo adolescentes em uma escola de Nova Jersey. De acordo com a proposta, indivíduos que compartilhem esse tipo de conteúdo podem enfrentar multas substanciais e até mesmo pena de prisão de até dois anos, além de possíveis danos financeiros de até $150.000 e até 10 anos de reclusão.

O caso de Taylor Swift destaca a urgência de medidas regulatórias para combater a disseminação de deepfakes e proteger a privacidade e dignidade das pessoas afetadas por essa forma de manipulação digital.