Em fevereiro, o Pornhub anunciou que não aceitaria mais vídeos falsos gerados por inteligência artificial na plataforma. O site afirmou que esse tipo de vídeo — conhecido pelo termo deepfake, técnica usada para sobrepor versões realistas do rosto de celebridades no corpo de atrizes pornô — é uma forma de conteúdo não-consensual e seria expurgado do site, cujo conteúdo soma mais de 100 bilhões de visualizações por ano. Mas, apesar da promessa inicial, deepfakes continuam sendo facilmente encontrados no Pornhub.
Apesar de conteúdo banido frequentemente entrar pelas frestas de grandes sites que permitem publicações de usuários, as violações de deepfakes no Pornhub são gritantes. Pouco após o anúncio do banimento, em fevereiro, o Mashable mostrou que dezenas de deepfakes ainda estavam no site. O Pornhub os retirou do ar, mas poucos meses depois o BuzzFeed News encontrou facilmente 70 vídeos do tipo ao buscar pelo termo "deepfake" na home do site.
Quase todos esses vídeos — que incluíam versões falsas e realistas de celebridades como Katy Perry, Scarlett Johansson, Daisy Ridley e Jennifer Lawrence — tinham a palavra "deepfake" mencionada no título, e vários usuários que publicaram esses vídeos tinham "deepfake" nos nomes. Assim como a busca por "fake deep" retornou mais de 30 vídeos não-consensuais de celebridades.
A maioria dos vídeos que apareceram na busca feita pelo BuzzFeed News tinham centenas de milhares de visualizações — um deles, que utilizava o rosto da atriz Emma Watson, tinha mais de 1 milhão. Algumas das contas especializadas em postar vídeos do tipo estavam ativas há mais de dois meses e, ao todo, somavam mais de 3 milhões de visualizações.
Alguns dos vídeos não-consensuais pareciam ser monetizados. Abaixo, uma propaganda do lubrificante K-Y aparece antes de um vídeo falso de Emma Watson.
Da mesma forma, o algoritmo do Pornhub parece promover parte do conteúdo ilegal.
Após cliques em alguns vídeos, o algoritmo de recomendação do Pornhub mostrou mais deepfakes, na home do site — segundo dados do próprio site, 80 milhões de usuários visitam a home diariamente.
Em resposta a uma série de perguntas do BuzzFeed News, o Pornhub forneceu apenas uma declaração padrão atribuída a Corey Price, vice-presidente da empresa.
"Conteúdos denunciados no Pornhub que violem diretamente nossos termos de serviço são removidos assim que tomamos conhecimento; isto inclui conteúdo não-consensual", afirma a nota. "Para garantir a segurança de todos os nossos fãs, nós tomamos uma posição firme contra pornografia de vingança, que acreditamos ser uma forma de assédio sexual, e lançamos uma página que permite a fácil remoção de conteúdo não consensual."
A empresa também enviou um link pelo qual usuários podem denunciar qualquer "material que é distribuído sem o consentimento dos indivíduos envolvidos".
O Pornhub não disse por que permitiu que deepfakes continuassem no ar ou se está monitorando ativamente novas postagens de deepfakes. Pouco após o contato do BuzzFeed News, na manhã de terça (17), uma busca por "deepfake" no Pornhub retornou sem resultados, um indício de que ao menos parte dos vídeos ofensivos foram retirados.
Porém, uma nova busca pelo termo "deep fakes", na terça à tarde, retornou dezenas de vídeos com centenas de milhares de visualizações. Não é claro se o Pornhub tem políticas oficiais contra a veiculação de anúncios antes de vídeos considerados "não consensuais", ou se o site planeja modificar seu algoritmo de recomendação.
Para além das preocupações óbvias — de que os vídeos feitos e postados sem consentimento são potencialmente danosos às celebridades retratadas —, a proliferação de deepfakes no Pornhub parece promover mercados secundários para a criação e a compra de vídeos do tipo.
Uma das contas especializadas na criação de deepfakes vistas pelo BuzzFeed News no Pornhub possui links para uma loja virtual e convida potenciais compradores a tirarem dúvidas por meio do app de mensagens Telegram.
"O que temos para vender: 500 deepfakes, e o número está crescendo, você pode comprar pela unidade ou o pacote completo com desconto", dizia o texto no site, que prometia "acesso a fóruns privados", "um guia para produzir deepfakes" e um tutorial sobre "como ganhar dinheiro vendendo deepfakes".
Outros vídeos no Pornhub mostravam um anúncio para que visitantes comprassem deepfakes customizados.
À luz da ineficácia do Pornhub em retirar do ar deepfakes de celebridades, e como a tecnologia de inteligência artificial por trás desses software se torna cada vez mais sofisticada e realista, esse tipo de conteúdo irá se disseminar. E apesar de os retratados nos vídeos terem cada vez mais a perder, parece que quem hospeda o conteúdo não está mais vigilante.
Este post foi traduzido do inglês.