Imagine você tirar férias e, na volta, deparar-se com nudes suas, espalhadas pela Internet. Pior que isso: imagine sua filha e amigas saírem em uma viagem e, na volta à escola, descobrirem que há nudes delas que todos já tiveram acesso.

Geralmente, a nossa primeira reação quando ouve falar em nudes na Internet, é pensar: poxa, mas por qual razão ainda fazem nudes? Quem lembra que a Lei Carolina Dieckmann surgiu justamente após a atriz ter suas fotos íntimas roubadas por um hacker.

Mas o caso que trago na coluna de hoje é muito mais alarmante: nudes estão sendo criados por Inteligência Artificial, a partir de imagens retiradas das redes sociais.

Um caso recente estarreceu o mundo (e os pais).

Mais de 20 meninas espanholas, após terem feito uma viagem de férias, receberam em seus celulares fotografias em que elas aparecem completamente nuas. Elas nunca fizeram fotos nuas, mas as nudes estavam espalhadas na rede mundial de computadores.

No caso, não se trata de montagem, mas de algo muito mais sofisticado, que tornou as fotos tão reais que dificilmente se perceberia sua falsidade - as famosas deep fakes.

A partir de fotografias roubadas das redes sociais das adolescentes, nas quais elas apareciam completamente vestidas, um sistema de IA foi capaz de produzir inúmeras nudes delas e, depois, compartilhou as imagens via WhatsApp.

Essa e mais uma das tecnologias que estão sendo utilizadas por pedófilos e toda a rede de pornografia mundial. As vítimas ficam perturbadas não só pela violação em si, mas pela veracidade das imagens. A mais nova das meninas possui apenas 11 anos!

Diante de um caso como esse, fica fácil constatarmos que a Inteligência Artificial pode, de fato, causar danos físicos e psíquicos aos indivíduos, diferentemente do que muitos especialistas argumentam. Os direitos fundamentais da pessoa são devastados e os danos são permanentes. 

As imagens, evidentemente, foram expostas em redes como Only Fans e sites pornográficos. E, nesse sentido, passamos a nos perguntar: de que adianta uma decisão judicial que determina a retirada das imagens da rede mundial de computadores? Elas já foram espalhadas, salvas e compartilhadas. O dano é permanente e irreversível. É como aquele velho ditado: 'você pode abrir um saco com penas e jogar de cima de um monte, mas nunca poderá juntá-las novamente'.

Outro lado cruel disso é que os criminosos tentam chantagear as famílias das vítimas e exigem dinheiro, na falsa promessa de que irão desfazer as nudes. Uma das mães sofreu com tal ato criminoso e, ao negar o pagamento, recebeu uma nude sua.

Esse tipo de ocorrência, vale o alerta, às vezes começa como uma brincadeira entre amigos. Logicamente, essa "brincadeira" nunca acaba bem, pois qualquer manipulação de imagem é passível de ser hackeada e é impossível o controle sobre esse tipo de manipulação.

No Brasil, está tramitando um Projeto de Lei para regular a Inteligência Artificial por aqui. A ideia da legislação é muito boa, mas os estudos mostram que ela está muito longe de ser uma norma que vai atender realmente às necessidades advindas do uso da IA.

O que devemos fazer, no que diz respeito à proteção de dados e IA, no geral, é olhar para as regulações da Europa. Lá, toda legislação está muito mais avançada e vemos uma enorme preocupação com esses acontecimentos. E, até mesmo por lá, essa situação gera dúvidas sobre se é possível punir legalmente (criminalmente e civilmente) os envolvidos.

Nossa lógica nos leva a acreditar que sim, a punição é necessária e deve ser permitida. Podemos defender isso ferrenhamente. 

Mas, como bem ressaltou o Professor de Direito Penal da Universidade Autónoma de Madrid, Manuel Cancio, "Uma vez que é gerada por deep fake, a privacidade real da pessoa em questão não é afetada. O efeito que tem (na vítima) pode ser muito semelhante ao de uma foto real de nudez, mas a lei está um passo atrás". Naturalmente, as leis sempre estarão a um passo atrás e isso faz com que sempre tenhamos uma lacuna legal. 

Conforme ressalta o Professor Cancio, "a utilização do rosto de menores em fotografias afeta a sua privacidade, mas quando se trata de crimes em que são distribuídas imagens íntimas, é a imagem como um todo que viola a privacidade". Então, segundo Cancio, "o quadro jurídico que poderia funcionar neste caso seria um crime contra a integridade moral, uma espécie de caixa de desastre para crimes que ninguém sabe onde colocar".

Por incrível que pareça, o único país que prevê como crime esse tipo de conduta é a Holanda.

Outra linha de pensamento sobre o tema diz que o fato de a foto não ser 100% real não importa. O que deve ser analisado é se, a partir dessa deep fake, é possível identificar a pessoa afetada (essa é uma das diretrizes da proteção de dados pessoais).

Se podemos identificar o rosto dessas meninas, como de fato é possível, há crimes praticados. 

Fato incontroverso é que, nesse caso, a reprodução de imagens com fins sexuais, de meninas menores de idade, tem como um dos fins a pornografia infantil. 

Uma lição importante, a partir desse episódio, é de que nos mantermos atualizados, hoje em dia, não é obrigatório somente para nosso trabalho ou para estarmos conectados. Precisamos proteger nossas crianças!

Quem se sente preparado para isso?