Criminosos estão utilizando essas ferramentas para criar e compartilhar pornografia infantil em alta definição. Em um fórum da dark web, membros discutem abertamente a possibilidade de “criar qualquer pornografia infantil que desejarmos”, usando a IA para produzir conteúdos cada vez mais sofisticados e convincentes.

Qualidade e Realismo

A IWF, que monitora a circulação mundial de Material de Abuso Sexual Infantil (CSAM), observou que os vídeos deepfake e parcialmente manipulados por IA estão se tornando cada vez mais realistas. Em 2023, os primeiros conteúdos gerados por IA eram de qualidade básica, mas um ano depois, a tecnologia evoluiu para produzir vídeos com maior qualidade e realismo. Dan Sexton, diretor de tecnologia da IWF, alerta que os vídeos futuros tendem a ser ainda mais convincentes.

Os investigadores da IWF descobriram os primeiros vídeos totalmente sintéticos de abuso sexual infantil, onde infratores replicaram e compartilharam modelos de IA com mais de 100 vítimas de abuso. Em um fórum da dark web, foram encontrados nove vídeos deepfake circulando entre março e abril deste ano. Alguns desses vídeos manipulam pornografia adulta para incluir o rosto de uma criança, enquanto outros alteram vídeos existentes de abuso sexual infantil para sobrepor o rosto de outra criança.

Impacto e Preocupações Futuras

Um vídeo particularmente chocante, encontrado na clear web, é totalmente gerado por IA e mostra um homem adulto violentando uma menina de cerca de dez anos. Embora o vídeo tenha falhas, os analistas da IWF descrevem a atividade como clara e contínua.

Susie Hargreaves, CEO da IWF, enfatiza a gravidade da situação, alertando que a rápida evolução da tecnologia de IA generativa permite que infratores criem vídeos gráficos de abuso sexual infantil com facilidade. “O fato de que alguns desses vídeos manipulam imagens de vítimas conhecidas é ainda mais aterrorizante”, afirma Susie. Sobreviventes de abuso enfrentam um novo trauma ao saber que suas imagens podem ser usadas para criar qualquer cenário de abuso desejado pelos infratores.

Necessidade de Controle

Hargreaves destaca a urgência de implementar controles adequados para impedir que a IA generativa se torne um playground para predadores online. A IWF já começa a ver um aumento na circulação e venda desse tipo de material em sites comerciais de abuso sexual infantil. Sem medidas eficazes, a tecnologia continuará a ser uma ferramenta poderosa nas mãos de criminosos, exacerbando o sofrimento das vítimas e complicando os esforços para combater o abuso sexual infantil online.