A inteligência artificial generativa tem possibilitado a criação de conteúdos perturbadores, incluindo pornografia infantil, a partir de imagens reais. A Fundação para a Infância alerta que esta prática banaliza a pedofilia e contribui para a objetificação de crianças. Angèle Lefranc, da fundação, destaca a necessidade de uma resposta rápida e coordenada de políticos e tecnólogos para enfrentar este problema crescente.
A proliferacão de conteúdos gerados por IA representa uma ameaça significativa para a segurança infantil. É essencial que as autoridades atuem rapidamente para proteger as crianças e atualizar as legislações existentes.