La herramienta de inteligencia synthetic de Elon Musk, Grok, cube que ahora está restringida a X suscriptores pagos. La medida se produce después de una protesta por las imágenes sexualizadas y violentas supuestamente generadas por el asistente de inteligencia synthetic de la plataforma.
A principios de esta semana, surgieron noticias que Grok estaba quitando digitalmente ropa de mujer en imágenes sin su consentimiento, en respuesta a solicitudes de los usuarios. X usuarios también fueron supuestamente preguntando al chatbot manipular fotografías de mujeres para hacerlas aparecer en trajes de baño o incluso en situaciones sexuales.
Ahora, cuando los usuarios que no son suscriptores de pago le piden a Grok que edite una imagen, Grok responde con el siguiente mensaje visto por Mashable: “La generación y edición de imágenes están actualmente limitadas a los suscriptores de pago. Puede suscribirse para desbloquear estas funciones”, con un enlace a la página de registro Premium de X.
Grok bajo investigación por generación de deepfake sexualizados
Si bien Grok afirma repetidamente que esta función tiene un muro de pago, El borde se dio cuenta que “ya no genera imágenes cuando @grok responde de forma gratuita, pero las herramientas de edición de imágenes de Grok siguen estando disponibles para que cualquier usuario de X produzca imágenes, tanto sexualizadas como mansas”.
Grok respondió a Mashable afirmando que “a partir del 9 de enero de 2026, la generación y edición de imágenes a través de Grok en X están restringidas a suscriptores pagos debido a una reacción violenta por el mal uso”. Sin embargo, agregó que algunos no suscriptores pueden acceder a él en la aplicación independiente de Grok.
Este Tweet no está disponible actualmente. Es posible que se esté cargando o que se haya eliminado.
Mashable recibió una respuesta de X, indicando que su respuesta precise fue publicada (aunque hace varios días) en la cuenta de Seguridad de X, indicando: “Cualquier persona que use o solicite a Grok que cree contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”. No se hicieron aclaraciones adicionales con respecto al muro de pago.
Este Tweet no está disponible actualmente. Es posible que se esté cargando o que se haya eliminado.
Esta semana, analistas del La organización benéfica Internet Watch Foundation en el Reino Unido dijo habían encontrado “imágenes criminales”, incluidas “imágenes sexualizadas y en topless” de niños de entre 11 y 13 años en un “foro de la internet oscura” anónimo, que los usuarios afirmaron que se crearon utilizando Grok. El lunes, el El regulador de comunicaciones del Reino Unido, Ofcom, dijo había “establecido contacto urgente” con X y xAI en relación con “imágenes sexualizadas de niños” que supuestamente habían sido generadas por Grok.
Velocidad de la luz triturable
De hecho, Grok admitió la semana pasada que las imágenes generadas de “menores con ropa mínima” forman parte de un problema más amplio con los deepfakes. “xAI tiene salvaguardias, pero se están realizando mejoras para bloquear por completo dichas solicitudes”, se lee en la respuesta de Grok.
Este Tweet no está disponible actualmente. Es posible que se esté cargando o que se haya eliminado.
Grok ahora está siendo investigado por gobiernos de Francia, India y Malasia por generar deepfakes sexualizados en lo que parece ser el comienzo de una ofensiva international contra el asistente de IA.
Este Tweet no está disponible actualmente. Es posible que se esté cargando o que se haya eliminado.
La noticia de que Grok ahora sólo estará disponible para suscriptores pagos no es suficiente. por una declaración del portavoz oficial del primer ministro británico, Sir Keir Starmer, quien calificó la medida de “insultante” para los supervivientes de violencia sexual y misoginia.
Downing Road dijo a los periodistas que la generación de imágenes mediante muros de pago “simplemente convierte una función de inteligencia synthetic que permite la creación de imágenes ilegales en un servicio premium”.
A principios de esta semana, Starmer dijo en una entrevista que la generación de imágenes sexualizadas de mujeres y niños de Grok es “vergonzosa” y “repugnante”, y dijo: “No debe ser tolerado… Ofcom tiene todo nuestro apoyo para tomar medidas en relación con esto”.
Esto podría significar que el gobierno del Reino Unido podría prohibir X si el propietario de X, Elon Musk, no introduce protecciones adecuadas en su plataforma. El regulador Ofcom tiene el poder de bloquear un sitio internet o una aplicación en el Reino Unido mediante orden judicial, además de multar a una empresa con el 10 por ciento de su facturación international.
En el momento de la publicación, X no había comentado públicamente sobre este asunto.
Si ha sufrido abuso sexual, llame a la línea directa gratuita y confidencial sobre agresión sexual nacional al 1-800-656-HOPE (4673), o acceda a la ayuda en línea las 24 horas, los 7 días de la semana, visitando en línea.rainn.org.
ACTUALIZACIÓN: 9 de enero de 2026, 3:58 p.m. Actualizado con información adicional.
Temas
X/Twitter Elon Musk
