ЮНИСЕФ призвал правительства стран мира к криминализации материалов сексуального насилия над детьми, сгенерированных ИИ. Согласно NS3.AI, этот призыв следует за исследованиями, указывающими на то, что более 1.2 миллиона детей стали жертвами манипуляций с их изображениями в откровенных дипфейках за последний год. В настоящее время проводятся расследования против ИИ-чат-бота Grok от X, который обвиняется в производстве сексуализированных изображений детей. Это побудило несколько стран запретить технологию, а регуляторы инициировали проверки.
ЮНИСЕФ выступает за законные расширения, чтобы классифицировать контент, созданный ИИ, как злоупотребление. Организация также призывает разработчиков ИИ внедрять меры безопасности и проводить проверку соблюдения прав детей в индустрии ИИ. Эти шаги считаются необходимыми для защиты детей от вредного воздействия технологий ИИ.