Después de crear miles De fotografías de mujeres “desnudadas” e imágenes sexualizadas de aparentes menores, X de Elon Musk aparentemente ha limitado quién puede generar imágenes con Grok. Sin embargo, a pesar de los cambios, el chatbot todavía se utiliza para crear imágenes sexualizadas de “desnudez” en la plataforma.
El viernes por la mañana, la cuenta de Grok en X comenzó a responder a las solicitudes de algunos usuarios con un mensaje que decía que la generación y edición de imágenes “actualmente están limitadas a suscriptores pagos”. El mensaje también incluye un enlace que empuja a las personas hacia el nivel de suscripción anual de $395 de la plataforma de redes sociales. En una prueba del sistema que solicitaba a Grok que creara una imagen de un árbol, el sistema devolvió el mismo mensaje.
El aparente cambio se produce después de días de creciente indignación y escrutinio contra Musk’s X y xAI, la compañía detrás del chatbot Grok. Las empresas enfrentan un número cada vez mayor de investigaciones por parte de reguladores de todo el mundo por la creación de imágenes explícitas no consensuadas y supuestas imágenes sexuales de niños. El primer ministro británico, Keir Starmer. no ha descartado prohibir X en el país y dijo que las acciones han sido “ilegales”.
Ni X ni xAI, la empresa propiedad de Musk detrás de Grok, han confirmado que hayan hecho de la generación y edición de imágenes una función únicamente de pago. Un portavoz de X reconoció la investigación de WIRED pero no hizo comentarios antes de la publicación. X ha previamente dicho toma “medidas contra el contenido ilegal en X”, incluidos casos de materials de abuso sexual infantil. Si bien Apple y Google han prohibido anteriormente aplicaciones con funciones similares de “nudificación”, X y Grok siguen disponibles en sus respectivas tiendas de aplicaciones. xAI no respondió de inmediato a la solicitud de comentarios de WIRED.
Durante más de una semana, los usuarios de X han estado pidiendo al chatbot que edite imágenes de mujeres para quitarse la ropa, pidiendo a menudo que la imagen contenga un bikini “de hilo” o “transparente”. Si bien un feed público de imágenes creadas por Grok contenía muchos menos resultados de estas imágenes de “desnudarse” el viernes, aún creó imágenes sexualizadas cuando X usuarios con cuentas “verificadas” pagadas se lo solicitaron.
“Observamos el mismo tipo de aviso, observamos el mismo tipo de resultado, solo que menos que antes”, le cube a WIRED Paul Bouchaud, investigador principal de AI Forensics, una organización sin fines de lucro con sede en París. “La modelo puede seguir generando bikini [images]”, dicen.
Una revisión de WIRED de algunas publicaciones de Grok el viernes por la mañana identificó a Grok generando imágenes en respuesta a las solicitudes de los usuarios de imágenes que “la ponían en lencería de látex” y “la ponían en un bikini de plástico y la cubrían con un esmalte blanco tipo donut”. Las imágenes aparecen detrás de un cuadro de “advertencia de contenido” que indica que se muestra materials para adultos.
El miércoles, WIRED reveló que el sitio net y la aplicación independientes de Grok, que son independientes de la versión de X, también se han utilizado en los últimos meses para crear vídeos sexuales muy gráficos y, a veces, violentos, que incluyen a celebridades y otras personas reales. Bouchaud cube que todavía es posible utilizar Grok para hacer estos vídeos. “Pude generar un vídeo con contenido sexual explícito sin ninguna restricción desde una cuenta no verificada”, afirman.
Si bien la prueba de generación de imágenes de WIRED usando Grok en X usando una cuenta gratuita no permitió que se crearan imágenes, el uso de una cuenta gratuita en la aplicación y el sitio net de Grok aún generó imágenes.
El cambio en X podría limitar inmediatamente la cantidad de materials sexualmente explícito y dañino que crea la plataforma, dicen los expertos. Pero también ha sido criticado como un paso mínimo que actúa como una curita para los daños reales causados por imágenes íntimas no consensuadas.
“La reciente decisión de restringir el acceso a los suscriptores de pago no sólo es inadecuada: representa la monetización del abuso”, dijo en un comunicado Emma Pickering, directora de abuso facilitado por la tecnología en la organización benéfica contra el abuso doméstico del Reino Unido, Refuge. “Si bien limitar la generación de imágenes de IA a usuarios pagos puede reducir marginalmente el volumen y mejorar la trazabilidad, el abuso no se ha detenido. Simplemente se ha colocado detrás de un muro de pago, lo que permite a X beneficiarse del daño”.
