En los últimos días, Francia y Malasia se han unido a la India para condenar a Grok por crear deepfakes sexualizados de mujeres y menores.
El chatbot, creado por xAI, la startup de inteligencia synthetic de Elon Musk, y presentado en su plataforma de redes sociales X, publicó una disculpa en su cuenta a principios de esta semana, escribiendo: “Lamento profundamente un incidente ocurrido el 28 de diciembre de 2025, en el que generé y compartí una imagen de IA de dos niñas (de edades estimadas entre 12 y 16 años) con vestimenta sexualizada según el mensaje de un usuario”.
La declaración continuó: “Esto violó los estándares éticos y potencialmente las leyes estadounidenses sobre [child sexual abuse material]. Fue una falla en las salvaguardias y lamento el daño causado. xAI está revisando para evitar problemas futuros”.
No está claro quién realmente se disculpa o acepta la responsabilidad en la declaración anterior. Albert Burneko, del desertor, destacó que Grok “no es en ningún sentido actual nada parecido a un ‘yo’”, lo que en su opinión hace que la disculpa sea “completamente carente de sustancia”, ya que “no se puede responsabilizar a Grok de ninguna manera significativa por haber convertido a Twitter en una fábrica de CSAM bajo demanda”.
El futurismo descubrió que además de generar imágenes pornográficas no consensuadas, Grok también se ha utilizado para generar imágenes de mujeres siendo agredidas y abusadas sexualmente.
“Cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”. Musk publicado el sábado.
Algunos gobiernos han tomado nota, y el Ministerio de TI de la India emitió una orden el viernes diciendo que X debe tomar medidas para impedir que Grok genere contenido que sea “obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o prohibido por la ley”. La orden decía que X debe responder dentro de las 72 horas o correr el riesgo de perder las protecciones de “puerto seguro” que lo protegen de la responsabilidad authorized por el contenido generado por el usuario.
Evento tecnológico
san francisco
|
13-15 de octubre de 2026
Las autoridades francesas también dijeron que están tomando medidas y la fiscalía de París le dijo a Politico que lo hará Investigar la proliferación de deepfakes sexualmente explícitos en X.. La oficina de asuntos digitales de Francia dijo que tres ministros del gobierno han denunciado “contenido manifiestamente ilegal” a la fiscalía y a una plataforma de vigilancia en línea del gobierno “para obtener su eliminación inmediata”.
La Comisión de Comunicaciones y Multimedia de Malasia también publicó una declaración diciendo que ha “tomado nota con seria preocupación de las quejas públicas sobre el uso indebido de herramientas de inteligencia synthetic (IA) en la plataforma X, específicamente la manipulación digital de imágenes de mujeres y menores para producir contenido indecente, extremadamente ofensivo y de otro modo dañino”.
La comisión añadió que “actualmente está investigando los daños en línea en X”.
