Indonesia y Malasia bloquearon el Grok de Musk por imágenes sexualizadas en una primicia mundial
Por Lex Harvey
Grok de Elon Musk ha sido bloqueado por Indonesia y Malasia, los primeros países en hacerlo después de que la función de “desnudez digital” de la herramienta de IA inundara internet con fotos de mujeres y menores en imágenes manipuladas, sugerentes y obscenas
La presión internacional sobre Musk ha ido aumentando para controlar a Grok a raíz de una tendencia viral en la que los usuarios han pedido a la herramienta de inteligencia artificial que genere deepfakes sexualmente explícitos.
Grok es una herramienta de la plataforma de redes sociales X de Musk, anteriormente conocida como Twitter.
El ministro digital de Indonesia, Meutya Hafid, dijo en un comunicado el sábado que la prohibición era para “proteger a las mujeres, los niños y el público en general de los riesgos del contenido pornográfico falso generado utilizando tecnología de inteligencia artificial”.
Malasia anunció su propia prohibición temporal el domingo tras “el uso indebido repetido de Grok para generar imágenes manipuladas obscenas, sexualmente explícitas, indecentes, groseramente ofensivas y no consensuadas, incluido contenido que involucra a mujeres y menores”.
Indonesia y Malasia son países de mayoría musulmana con leyes estrictas contra la pornografía.
CNN se ha puesto en contacto con la empresa matriz xAI para solicitarle comentarios.
Funcionarios del Reino Unido, la Unión Europea y la India también han expresado su preocupación por las barreras de protección de Grok.
Anteriormente, Musk y xAI afirmaron que estaban abordando el problema suspendiendo permanentemente las cuentas infractoras y “trabajando con los gobiernos locales y las fuerzas del orden”. Sin embargo, las respuestas de Grok a las solicitudes de los usuarios seguían repletas de imágenes que sexualizaban a las mujeres.
Muchos usuarios consideran que Grok es un caso atípico en comparación con otros modelos de IA convencionales, ya que permite (y en algunos casos promueve) contenido sexualmente explícito y avatares acompañantes.
El auge de la tendencia de desvestirse digitalmente comenzó a finales del año pasado, cuando muchos usuarios descubrieron que podían etiquetar a Grok en X y hacer que manipulara imágenes.
Los usuarios han impulsado al chatbot a generar imágenes de personas en bikini y posando de forma sugerente, causando angustia a cientos de miles de mujeres en todo el mundo.
Investigadores de AI Forensics, una organización europea sin fines de lucro que investiga algoritmos, analizaron más de 20.000 imágenes aleatorias generadas por Grok y 50.000 solicitudes de usuarios entre el 25 de diciembre y el 1 de enero.
Los investigadores encontraron “una alta prevalencia de términos que incluían ‘ella’, ‘poner’/’quitar’, ‘bikini’ y ‘ropa’”.
Más de la mitad de las imágenes generadas de personas “contenían individuos con vestimenta mínima, como ropa interior o bikinis”.
En público, Musk se ha pronunciado durante mucho tiempo contra los modelos de IA “despiertos” y lo que él llama censura.
Pero el multimillonario ha rechazado las restricciones para Grok dentro de la empresa, dijo a CNN una fuente con conocimiento de la situación en xAI.
El equipo de seguridad de xAI, ya pequeño en comparación con sus competidores, perdió varios empleados en las semanas previas a la controversia.
Musk ha declarado que cualquiera que use Grok para crear contenido ilegal enfrentará consecuencias. Sin embargo, ha desestimado en gran medida las preocupaciones sobre el contenido sexual en la aplicación, argumentando que los gobiernos “solo quieren suprimir la libertad de expresión” y respondiendo a las críticas con emojis.
La semana pasada, Grok limitó algunas de sus funciones de generación de imágenes a los suscriptores pagos de X, pero las restricciones solo se aplican a una de las formas en que los usuarios interactúan con Grok.
Los que no son suscriptores aún pueden solicitar a Grok que edite imágenes en la aplicación, y las funciones de generación de imágenes y videos aún se ofrecen de forma gratuita a través de su sitio web y aplicación independientes.
La secretaria de Tecnología del Reino Unido, Liz Kendall, pidió el viernes que se tomen medidas rápidas para combatir las imágenes falsas.
“Manipular sexualmente imágenes de mujeres y niños es despreciable y aborrecible”, afirmó.
“Espero que Ofcom utilice todos los poderes legales que le ha otorgado el Parlamento”, añadió, refiriéndose al regulador independiente de las comunicaciones del Reino Unido.
Hadas Gold y Trista Kurniawan de CNN contribuyeron con el reportaje.
The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.
