L'UNICEF a lancé un appel aux gouvernements du monde entier pour criminaliser le matériel d'abus sexuel d'enfants généré par l'IA. Selon NS3.AI, cet appel fait suite à des recherches indiquant que plus de 1,2 million d'enfants ont eu leurs images manipulées en deepfakes explicites au cours de l'année écoulée. Des enquêtes sont actuellement en cours contre le chatbot IA de X, Grok, qui a été accusé de produire des images sexualisées d'enfants. Cela a poussé plusieurs pays à interdire la technologie et les régulateurs à initier des enquêtes.
L'UNICEF plaide pour des extensions légales afin de classer le contenu généré par l'IA comme un abus. L'organisation exhorte également les développeurs d'IA à mettre en œuvre des mesures de sécurité et à effectuer une diligence raisonnable sur les droits des enfants dans l'ensemble de l'industrie de l'IA. Ces étapes sont jugées nécessaires pour protéger les enfants des impacts néfastes de la technologie IA.