Funcionarios de Indonesia y Malasia han dicho que están bloqueando temporalmente el acceso al chatbot Grok de xAI.
Estas son las medidas más agresivas hasta el momento por parte de funcionarios gubernamentales en respuesta a una avalancha de imágenes sexualizadas generadas por IA, que a menudo representan mujeres y menores reales, y a veces representando violencia — publicado por Grok en respuesta a las solicitudes de los usuarios de la purple social X. (X y xAI son parte de la misma empresa).
En una declaración compartida el sábado con The Guardian y otras publicaciones, el ministro digital y de comunicaciones de Indonesia, Meutya Hafid, dijo: “El gobierno considera la práctica de deepfakes sexuales no consensuales como una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”.
Según se informa, el ministerio también convocó a funcionarios de X para discutir el tema.
El New York Occasions dijo el gobierno de Malasia anunció una prohibición similar el domingo.
Las diversas respuestas gubernamentales durante la semana pasada incluyen una orden del Ministerio de TI de la India para que xAI tome medidas para evitar que Grok genere contenido obsceno, así como una orden de la Comisión Europea para que la empresa preserve todos los documentos relacionados con Grok, lo que podría preparar el escenario para una investigación.
En el Reino Unido, el regulador de comunicaciones Ofcom ha dicho que “realizará una evaluación rápida para determinar si existen posibles problemas de cumplimiento que justifiquen una investigación”. El primer ministro Keir Starmer dijo en una entrevista que Ofcom tiene su “pleno apoyo para tomar medidas”.
Evento tecnológico
san francisco
|
13-15 de octubre de 2026
Y aunque en Estados Unidos la administración Trump parece guardar silencio sobre el tema (el director ejecutivo de xAI, Elon Musk, es un importante donante de Trump y dirigió el controvertido Departamento de Eficiencia Gubernamental de la administración el año pasado), los senadores demócratas han llamó a Apple y Google para eliminar X de sus tiendas de aplicaciones.
xAI respondió inicialmente por publicar una disculpa aparentemente en primera persona a la cuenta de Grok, reconociendo que una publicación “violó los estándares éticos y potencialmente las leyes estadounidenses” en torno al materials de abuso sexual infantil. Más tarde restringió la función de generación de imágenes con IA a los suscriptores de pago en X, aunque esa restricción no pareció afectar a la aplicación Grok en sí, que todavía permitía a cualquiera generar imágenes.
En respuesta a una publicación que preguntaba por qué el gobierno del Reino Unido no estaba tomando medidas contra otras herramientas de generación de imágenes de IA, almizcle escribió“Quieren cualquier excusa para la censura”.
Esta publicación se ha actualizado para reflejar la prohibición de Grok en Malasia.
