Durante las últimas dos semanas, X se ha visto inundado de imágenes de desnudos manipuladas por IA, creadas por el chatbot Grok AI. Una gama alarmante de mujeres se ha visto afectada por los desnudos no consentidos, entre ellas destacadas modelos y actrices, así como cifras de noticias, víctimas del crimene incluso líderes mundiales.
Un artículo de investigación del 31 de diciembre de Copyleaks Se estimó que se publicaba aproximadamente una imagen cada minuto, pero pruebas posteriores encontraron mucho más. Se encontró una muestra recolectada del 5 al 6 de enero 6.700 por hora durante el período de 24 horas.
Pero aunque figuras públicas de todo el mundo han criticado la decisión de lanzar el modelo sin salvaguardias, existen pocos mecanismos claros para que los reguladores esperen frenar el nuevo sistema de manipulación de imágenes de Elon Musk. El resultado se ha convertido en una dolorosa lección sobre los límites de la regulación tecnológica y en un desafío de futuro para los reguladores que esperan dejar su huella.
Como period de esperar, la acción más agresiva provino de la Comisión Europea, que el jueves ordenó a xAI que retuviera todos los documentos relacionado con su chatbot Grok. La medida no significa necesariamente que la comisión haya abierto una nueva investigación, pero es un precursor común de tal acción. Es particularmente siniestro dado Informe reciente de CNN eso sugiere que Elon Musk pudo haber intervenido personalmente para evitar que se pusieran salvaguardias sobre las imágenes que Grok podría generar.
No está claro si X ha realizado algún cambio técnico en el modelo de Grok, aunque se eliminó la pestaña de medios públicos para la cuenta X de Grok. En un comunicado, la empresa denunció específicamente el uso de herramientas de inteligencia synthetic para producir imágenes sexuales infantiles. “Cualquier persona que use o solicite a Grok que cree contenido ilegal sufrirá las mismas consecuencias que si carga contenido ilegal”, cuenta X Security. publicado el 3 de enerohaciéndose eco de un tweet anterior de Elon Musk.
Mientras tanto, los reguladores de todo el mundo han emitido severas advertencias. Ofcom del Reino Unido emitió un comunicado el lunesdiciendo que estaba en contacto con xAI y “realizará una evaluación rápida para determinar si existen posibles problemas de cumplimiento que justifiquen una investigación”. En una entrevista de radio el juevesel primer ministro del Reino Unido, Keir Starmer, calificó el fenómeno de “vergonzoso” y “repugnante” y dijo que “Ofcom tiene todo nuestro apoyo para tomar medidas en relación con esto”.
En una publicación en LinkedInla comisionada australiana de eSafety, Julie Inman-Grant, dijo que su oficina había recibido el doble de quejas relacionadas con Grok desde finales de 2025. Pero Inman-Grant no llegó a tomar medidas contra xAI y se limitó a decir: “Utilizaremos la gama de herramientas regulatorias a nuestra disposición para investigar y tomar las medidas adecuadas”.
Evento tecnológico
san francisco
|
13-15 de octubre de 2026
Con diferencia, el mercado más grande que amenaza con tomar medidas es India, donde Grok fue objeto de una queja formal por parte de un miembro del Parlamento. En enero, el regulador de comunicaciones de la India, MeitY, ordenó a X que abordara el problema y presentara un informe de “medidas tomadas” en un plazo de 72 horas, plazo que posteriormente se amplió 48 horas. Mientras se elaboraba un informe presentado al regulador el 7 de enerono está claro si MeitY estará satisfecha con la respuesta. De lo contrario, X podría perder su estatus de puerto seguro en la India, una limitación potencialmente grave a su capacidad para operar dentro del país.
