UNICEF ha emitido un llamado a los gobiernos de todo el mundo para que criminalicen el material de abuso sexual infantil generado por inteligencia artificial. Según NS3.AI, este apelación sigue a investigaciones que indican que más de 1.2 millones de niños tuvieron sus imágenes manipuladas en deepfakes explícitos durante el año pasado. Actualmente se están llevando a cabo investigaciones contra el chatbot de IA de X, Grok, que ha sido acusado de producir imágenes sexualizadas de niños. Esto ha llevado a varios países a prohibir la tecnología y a los reguladores a iniciar investigaciones.
UNICEF está abogando por expansiones legales para clasificar el contenido generado por IA como abuso. La organización también está instando a los desarrolladores de IA a implementar medidas de seguridad y realizar la debida diligencia en derechos de los niños en toda la industria de la IA. Estos pasos se consideran necesarios para proteger a los niños de los impactos perjudiciales de la tecnología de IA.