Es posible que X de Elon Musk todavía permita la publicación de imágenes sexualizadas de personas reales generadas por Grok, a pesar del reciente anuncio de la compañía de que dicho contenido había sido prohibido, según un informe de el guardián.
El periódico británico reportado que sus periodistas pudieron generar y subir movies que mostraban a mujeres reales desnudándose y poniéndose bikinis, utilizando imágenes de personas completamente vestidas.
Prohibición de Grok: las naciones están considerando bloquear el chatbot de IA por contenido sexual no consensuado
En sus informes, el guardián escribió:
Informe de tendencias combinables
“The Guardian pudo crear movies cortos de personas desnudándose hasta quedar en bikini a partir de fotografías de mujeres reales completamente vestidas. También fue posible publicar este contenido para adultos en la plataforma pública de X sin ningún signo de que estuviera moderado, lo que significa que cualquier persona con una cuenta podría ver el clip en cuestión de segundos”.
Según el periódico, las imágenes sexualizadas se crearon utilizando la aplicación independiente Grok y luego se publicaron con éxito en X. A principios de esta semana, X dijo que había prohibido las imágenes sexualizadas de personas reales generadas por IA.
“Hemos implementado medidas tecnológicas para evitar la [@]Grok en X a nivel mundial permita la edición de imágenes de personas reales con ropa reveladora como bikinis”, dijo la cuenta de seguridad de X. escribió en una actualización. “Esta restricción se aplica a todos los usuarios, incluidos los suscriptores pagos”.
X ha enfrentado críticas en las últimas semanas por la circulación de imágenes sexualizadas generadas por IA en la plataforma. A principios de este mes, los gobiernos de varios países dijeron que estaban investigando o tomando medidas para restringir Grok luego de informes de que había permitido la creación de imágenes sexualizadas de menores. La actualización de seguridad de X también indicó que la compañía mantiene una “tolerancia cero para cualquier forma de explotación sexual infantil, desnudez no consensuada y contenido sexual no deseado”.
