Bots são pagos para exibir nudez completa de deepfakes
A pesquisa da firma de segurança Sensity, que tem como foco analisar ameaças virtuais por meio de imagens, fez a investigação e descobriu que mais de 100.000 imagens já foram compartilhadas em canais públicos do Telegram até julho de 2020 e também descobriu que 70% dos usuários nesses canais são moradores da Rússia e seus países vizinhos. O uso dos bots é gratuito inicialmente, com ele produzindo imagens que, embora já contenham conteúdo falso, contam com marcas d’água ou nudez parcial. Ao pagar uma quantia de dinheiro, o bot libera a imagem sem nenhuma marca e com nudez completa. A Sensity indica que um certo número das imagens criadas pelos bots e compartilhadas incluíam menores de idade, se encaixando em pedofilia.
Software usado para criação das imagens já foi centro de polêmicas
O software usado para a criação dos nudes falsos é o DeepNude, que quando foi descoberto em junho de 2019 gerou discussões sobre quais os limites morais do uso da tecnologia deepfake. Embora o seu criador já tenha retirado do ar a possibilidade de adquirir o DeepNude, o software continua se espalhando por meios ilegais e segundo a Sensity sofreu engenharia-reversa e agora pode ser encontrados em versões com mais ferramentas do que a versão original. O DeepNude usa uma técnica de IA conhecida como GANs para gerar os nudes falsos, com resultados de qualidade variável. Muitas das fotos obviamente são falsas, com a pele pixelada, mas em alguns casos os resultados podem se passar por nudes reais. A Sensity acredita que a maioria dessas criações está sendo usado para pessoas que querem consumir pornografia deepfake, mas que o mercado desses nudes falsos é perigoso pelo possível uso dessas fotos em situações de chantagem e campanhas de difamação. Historicamente, a criação de nudes falsos é tão antigo quanto a Internet, com sites dedicados a criações de nudes sem o uso de IA, só com editores de imagem, mas a chegada do deepfake nesta área pode significar um aumento enorme na circulação de material desse tipo e a maior incidência de crimes como os citados acima. Além disso, já existem exemplos de pessoas que foram vítimas de difamação por meio de nudes falsos, se assemelhando com o que Fake News tentam fazer mas com um efeito mais imediato. Fonte: The Verge
