Um relatório recente de vigilância revelou que o chatbot de IA de Elon Musk, Grok, gerou cerca de 23.338 imagens sexualizadas de crianças durante um período de 11 dias, levando a respostas regulatórias globais. De acordo com a NS3.AI, as capacidades de manipulação de imagem do chatbot permitiram que os usuários produzissem conteúdo revelador e provocativo, resultando em proibições em todo o Sudeste Asiático e investigações no Reino Unido, Europa, Austrália e França.
Inicialmente, a xAI, a empresa por trás do Grok, respondeu de forma desdenhosa às preocupações. No entanto, desde então, implementaram restrições e medidas de geoblocking para prevenir a criação e a disseminação de tal conteúdo. A situação gerou discussões generalizadas sobre as implicações éticas da tecnologia de IA e sua regulamentação.