Indonesia ha restringido temporalmente el acceso al chatbot insignia de xAI en medio de crecientes críticas
Indonesia ha bloqueado Grok AI de Elon Musk debido a la creciente preocupación de que el chatbot facilite la creación de contenido pornográfico deepfake.
La medida del Ministerio de Comunicaciones y Asuntos Digitales del país convierte a la nación del sudeste asiático en la primera en prohibir temporalmente el acceso a la herramienta de inteligencia synthetic.
Grok ha sido objeto de escrutinio a nivel mundial después de que surgieran informes de que el chatbot puede generar deepfakes eróticos a partir de fotografías, incluidas imágenes de menores. Desde entonces, algunos reguladores han abierto investigaciones sobre el contenido sexualizado producido por la aplicación, desarrollada por xAI.
Indonesia, hogar de la población musulmana más grande del mundo, aplica reglas estrictas que prohíben el materials considerado obsceno.
“El gobierno considera que los deepfakes sexuales no consentidos son una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”. Dijo el Ministro de Comunicación y Asuntos Digitales, Meutya Hafid, describiendo el uso indebido de la IA para crear pornografía falsa como una forma de “violencia de base digital”.
Hafid añadió que el futuro de Grok en Indonesia, uno de los mercados de redes sociales más grandes del mundo, dependerá de la voluntad de X de implementar filtros de contenido sólidos y adherirse a estándares éticos de IA. Se ha convocado a funcionarios de X para mantener conversaciones.
El jueves, la Comisión Europea ordenó a X que preservara todos los documentos y datos relacionados con el chatbot Grok hasta finales de 2026. La medida de precaución, tomada en virtud de la Ley de Servicios Digitales de la UE, tiene como objetivo evitar la pérdida de pruebas en medio de preocupaciones sobre contenido potencialmente ilegal.
En el Reino Unido, The Telegraph informó a principios de esta semana que X podría enfrentar un posible bloqueo por contenido pornográfico generado por Grok. Según se informa, el primer ministro británico, Keir Starmer, ha remitido el asunto al regulador de medios Ofcom, y se cube que las opciones incluyen una prohibición whole.
A principios de este mes, los fiscales franceses abrieron una investigación sobre la supuesta difusión de deepfakes sexualmente explícitos generados por Grok después de que cientos de personas denunciaran que sus fotografías habían sido digitalizadas. “sin curtir.”
La empresa de inteligencia synthetic de Musk se ha enfrentado a una creciente controversia desde el lanzamiento de Grok 4 en julio de 2025, y los críticos señalan la retórica extremista, un sesgo político y características sexualizadas como evidencia de salvaguardias inadecuadas. Los expertos advierten que las herramientas de inteligencia synthetic mal moderadas corren el riesgo de exponer a los usuarios, especialmente a los niños, a contenido dañino.
Puedes compartir esta historia en las redes sociales:
