Elon Musk está considerando uma possível proibição do aplicativo X na Grã-Bretanha devido a supostas imagens inadequadas que apareceram online no dark web, com usuários alegando que foram geradas pelo chatbot de inteligência artificial Grok. O órgão regulador britânico da internet, Ofcom, foi solicitado a apresentar todas as opções, incluindo multas que totalizam bilhões ou até mesmo bloquear o acesso ao aplicativo X por completo.
A organização beneficente Internet Watch Foundation (IWF) revelou que seus analistas descobriram imagens de meninas jovens com idades entre 11 e 13 anos, que pareciam ter sido geradas pelo Grok em um site escuro. De acordo com o órgão regulador de mídia Office of Communications (Ofcom), a imagética constituía material ilegal de abuso sexual infantil.
Kier Starmer exige que a Ofcom coloque todas as opções sobre a mesa
O Primeiro-Ministro do Reino Unido, Kier Starmer, pediu à Office of Communications (Ofcom), o órgão regulador britânico da internet, para colocar todas as opções sobre a mesa ao considerar o caso de Musk, após o aplicativo Grok, da xAI, ter supostamente gerado imagens criminais de jovens mulheres e crianças. De acordo com um relatório do Telegraph, a Lei Britânica de Segurança Online permite que o país multe o aplicativo X em bilhões ou até bloquear o acesso ao X no Reino Unido.
O aplicativo X tem mais de 650 milhões de usuários em todo o mundo, com pelo menos 20 milhões provenientes do Reino Unido. O Primeiro-Ministro Starmer advertiu na Greatest Hits Radio que o X deveria se organizar e remover o material, acrescentando que medidas serão tomadas contra o aplicativo de Musk porque simplesmente não é tolerável. Ele alertou após múltiplas imagens de mulheres e crianças aparecerem sem roupas, juntamente com outras em biquínis, e terem sido supostamente geradas pelo chatbot de IA Grok.
"O X precisa se organizar nisso, e a Ofcom tem todo o nosso apoio para tomar medidas sobre isso. Isso está errado. É ilegal. Não vamos tolerar isso. Eu pedi para que todas as opções fossem colocadas sobre a mesa."
-Kier Starmer, Primeiro-Ministro do Reino Unido
Até agora, espera-se que o regulador siga o devido processo legal antes de aplicar a proibição, incluindo investigações e decisões provisórias. Se o X não resolver as preocupações da Ofcom, o regulador pode buscar bloquear o site no Reino Unido. A Ofcom já entrou em contato com a plataforma de mídia social esta semana, destacando que pode iniciar uma investigação sobre as imagens.
Musk acredita que a intenção da OSA é a supressão do povo
Musk já criticou anteriormente a Lei Britânica de Segurança Online (OSA), alegando que seu objetivo é a supressão do povo. De acordo com Musk, a OSA do Reino Unido corre o risco de violar a liberdade de expressão por meio de suas medidas para proteger crianças de conteúdos prejudiciais. Musk observou que as intenções 'louváveis' da lei incluem uma implementação agressiva por meio da Ofcom.
Alexander Ngaire, chefe do serviço de denúncia da organização beneficente Internet Watch Foundation, disse à BBC que ferramentas como o Grok correm o risco de trazer imagens sexuais de crianças geradas por IA para os meios de comunicação principais. Ela classificou o material como Categoria C segundo a lei britânica, a categoria mais baixa para fins criminais. Acrescentou que o usuário que fez o upload das imagens havia usado uma ferramenta de IA diferente, não o Grok, para criar uma imagem da Categoria A, considerada o material criminoso mais grave.
De acordo com Ngaire, o IWF está preocupado com a facilidade e rapidez com que as pessoas podem gerar material de abuso sexual infantil (CSAM) com aparência fotográfica. A fundação visa remover esse tipo de material da internet por meio de um serviço de denúncia onde o CSAM suspeito é reportado, e seus analistas avaliam sua legalidade e gravidade. Os analistas do IWF descobriram que o material aparecia apenas na deep web e não foi encontrado na plataforma X.
De acordo com X, medidas serão tomadas contra conteúdo ilegal em sua plataforma, incluindo material de abuso sexual infantil (CSAM), removendo-o e suspensão permanente de contas, além de trabalhar com governos locais e autoridades de segurança quando necessário. A plataforma social alerta que qualquer pessoa que pedir ao Grok para criar conteúdo ilegal enfrentará as mesmas consequências que se tivesse feito o upload.
Se você está lendo isto, já está à frente. Fique por dentro com o nosso boletim informativo.