Grok, el chatbot de inteligencia synthetic de Elon Musk, ha introducido una función que permite a los usuarios crear imágenes sexualizadas de mujeres sin su consentimiento, por lo que se enfrenta a críticas generalizadas. La herramienta puede tomar fotografías de la plataforma de redes sociales X, incluidas imágenes de personas reales, y alterarlas digitalmente para quitarles la ropa o representarlas en lencería y bikinis.La situación se intensificó después del lanzamiento de un botón “editar imagen” a finales de diciembre, que permite a los usuarios modificar cualquier imagen en la plataforma. Según los informes, algunos usuarios lo utilizaron para quitar parcial o totalmente la ropa de mujeres y niños en fotografías. Desde que se lanzó la función el día de Navidad, la cuenta X de Grok se ha visto inundada de solicitudes sexualmente explícitas.
Sin embargo, en lugar de tomarse el asunto en serio, Musk pareció burlarse del tema, publicando emojis de risa y llanto en respuesta a ediciones de IA de personas famosas, incluido él mismo, en bikini.
Grok respondió en X, reconociendo el problema: “Hemos identificado fallas en las salvaguardias y las estamos solucionando urgentemente”. El chatbot también enfatizó que “CSAM (materials de abuso sexual infantil) es ilegal y está prohibido”.En India, el Ministerio de Electrónica y Tecnología de la Información (MeitY) envió el viernes una carta a X, citando un “incumplimiento de las obligaciones legales de debida diligencia” en virtud de la Ley de Tecnología de la Información de 2000. El ministerio solicitó un Informe de medidas tomadas para impedir el alojamiento, la generación y la carga de contenido obsceno, desnudo, indecente y sexualmente explícito a través de servicios de inteligencia synthetic como Grok.La carta instruía a X Corp, India Operations, a “dessistir estrictamente de alojar, mostrar, cargar, publicar, transmitir, almacenar o compartir cualquier contenido que sea obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o prohibido por cualquier ley vigente en el momento de cualquier manera”. También advirtió que el incumplimiento podría resultar en la pérdida de exenciones de responsabilidad bajo el artículo 79 de la Ley de TI y otras consecuencias legales.Mientras tanto, en París, la fiscalía ha ampliado una investigación sobre X para incluir nuevas acusaciones de que Grok está siendo utilizado para crear y distribuir pornografía infantil.Una mujer, Samantha Smith, le dijo a la BBC que se sintió “deshumanizada y reducida a un estereotipo sexual” después de que Grok le quitara la ropa digitalmente. “Si bien no period yo la que estaba desnuda, se parecía a mí y se sentía como yo y se sentía tan violador como si alguien hubiera publicado una foto mía desnuda o en bikini”, dijo.
