No último mês de dezembro, usuários do Reddit deram início a uma bizarra, mas sofisticada “moda”: colocar rostos de celebridades no corpo de atrizes em cenas de filmes pornográficos com auxílio da inteligência artificial. A brincadeira ganhou tanta força que o Reddit e outros serviços tiveram que começar a banir esse tipo de conteúdo.
Trocar o rosto de pessoas em filmes não é exatamente uma novidade. O que chama atenção nessa história toda é que, graças a algoritmos de inteligência artificial, não é preciso ter conhecimentos avançados de edição de vídeos ou softwares gráficos para fazer isso.
Taylor Swift, Gal Gadot, Selena Gomez, Ariana Grande e até a ex-primeira-dama dos Estados Unidos Michelle Obama aparecem em vídeos pornôs alterados com a técnica. Um usuário que se identifica apenas como deepfakes no Reddit é o principal responsável por fazer essa ideia pegar por lá.
Em entrevista à Vice, deepfakes disse que usou ferramentas amplamente disponíveis para gerar as modificações, como a biblioteca de aprendizagem profunda Keras e a biblioteca de aprendizagem de máquina TensorFlow, do Google.
Não demorou para aplicativos serem criados, com destaque para o FakeApp. Aí sim a coisa desandou. Mesmo pessoas com pouco conhecimento técnico passaram a criar vídeos com rostos alterados de modo bastante convincente.
Talvez o maior trabalho esteja em encontrar vídeos de pessoas com corpo e tom de pele semelhantes aos das celebridades. Dá para notar falhas em movimentos faciais ou mudanças de ângulo, mas, de modo geral, os resultados impressionam.
A tecnologia pode até ser fascinante, mas essa prática preocupa: além de desrespeitar a imagem de celebridades, já há relatos sobre o uso de ferramentas do tipo na chamada pornografia de vingança (revenge porn), por exemplo. Além disso, o uso não autorizado de trechos de vídeos e fotos de celebridades (para mapeamento do rosto) viola direitos autorais.
A brincadeira de colocar o rosto do ator Nicolas Cage em diversos vídeos também vem sendo apagada
Não é de se estranhar que esse tipo de publicação tenha começado a desaparecer do Reddit, embora muitos vídeos e GIFs com cenas modificadas ainda possam ser encontrados por lá.
Alguns serviços que armazenam conteúdo seguem pelo mesmo caminho. Só para você ter ideia, vários usuários relataram que seus uploads no popular Gfycat sumiram repentinamente. Já a plataforma de chat por voz Discord confirmou ter fechado um grupo montado especificamente para disseminar os vídeos.
Considerando as implicações possíveis, estava demorando para os serviços reagirem. Mas vai ser um “toma lá, dá cá”. O fato de vídeos modificados continuarem sendo compartilhados no Reddit é prova disso. Para piorar, essa é uma situação nova, não prevista nas leis dos Estados Unidos, o que pode dificultar a aplicação de medidas legais.
Com informações: The Next Web. The Verge.