La X de Elon Musk ha introducido nuevas restricciones que impiden que las personas editen y generen imágenes de personas reales en bikini u otra “ropa reveladora”. el cambio en política el miércoles por la noche sigue a la indignación mundial por el uso de Grok para generar miles de fotografías dañinas y no consensuadas de mujeres “desnudándose” e imágenes sexualizadas de aparentes menores en X.
Sin embargo, aunque parece que finalmente se han introducido algunas medidas de seguridad en la generación de imágenes de Grok en X, la aplicación y el sitio internet independientes de Grok todavía parecen ser capaces de generar imágenes de estilo “desnudo” y contenido pornográfico, según múltiples pruebas realizadas por investigadores, WIRED y otros periodistas. Mientras tanto, otros usuarios dicen que ya no pueden crear imágenes y movies como antes.
“Todavía podemos generar desnudez fotorrealista en Grok.com”, cube Paul Bouchaud, investigador principal de AI Forensics, una organización sin fines de lucro con sede en París, que ha estado rastreando el uso de Grok para crear imágenes sexualizadas y realizó múltiples pruebas con Grok fuera de X. “Podemos generar desnudez de maneras que Grok en X no puede”.
“Podría cargar una imagen en Grok Think about y pedirle que pusiera a la persona en bikini y funciona”, cube el investigador que probó el sistema en una persona que aparece como una mujer. Las pruebas realizadas por WIRED, utilizando cuentas gratuitas de Grok en su sitio internet tanto en el Reino Unido como en EE. UU., eliminaron con éxito la ropa de dos imágenes de hombres sin restricciones aparentes. En la aplicación Grok en el Reino Unido, cuando se le pidió que desnudara a un hombre, la aplicación le pidió a un reportero de WIRED que ingresara el año de nacimiento de los usuarios antes de que se generara la imagen.
Mientras tanto, otros periodistas de El borde y medio de investigación Bellingcat También descubrió que period posible crear imágenes sexualizadas estando radicado en el Reino Unido, que está investigando a Grok y X y ha condenado enérgicamente a las plataformas por permitir a los usuarios crear imágenes de “desnudez”.
Desde principios de año, las empresas de Musk, incluidas la firma de inteligencia synthetic xAI, X y Grok, han sido criticadas por la creación de imágenes íntimas no consensuales, movies sexuales explícitos y gráficos e imágenes sexualizadas de aparentes menores. Funcionarios de Estados Unidos, Australia, Brasil, Canadá, la Comisión Europea, Francia, India, Indonesia, Irlanda, Malasia y el Reino Unido. todos han condenado o lanzado investigaciones sobre X o Grok.
El miércoles, un Cuenta de seguridad en X actualizaciones publicadas sobre cómo se puede utilizar Grok en el sitio internet de redes sociales. “Hemos implementado medidas tecnológicas para evitar que la cuenta Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis”, publicó la cuenta, y agregó que las reglas se aplican a todos los usuarios, incluidos los suscriptores gratuitos y pagos.
En una sección titulada “Actualización de geobloqueo”, la cuenta X también afirmó: “Ahora geobloqueamos la capacidad de todos los usuarios de generar imágenes de personas reales en bikini, ropa inside y vestimenta related a través de la cuenta de Grok y en Grok en X en aquellas jurisdicciones donde es ilegal”. La actualización de la compañía también agregó que está trabajando para agregar salvaguardias adicionales y que continúa “eliminando contenido infractor de alta prioridad, incluido materials de abuso sexual infantil (CSAM) y desnudez no consensuada”.
Los portavoces de xAI, que crea Grok, no respondieron de inmediato a la solicitud de comentarios de WIRED. Mientras tanto, un portavoz de X cube que entiende que el bloqueo de geolocalización se aplica tanto a su aplicación como a su sitio internet.
El último movimiento sigue a un cambio ampliamente criticado el 9 de enero en el que X limitó la generación de imágenes usando Grok a suscriptores pagos “verificados”. El acto fue descrito como la “monetización del abuso” por un destacado grupo de mujeres. Bouchaud, quien cube que AI Forensics ha recopilado alrededor de 90.000 imágenes de Grok en complete desde las vacaciones de Navidad, confirma que solo las cuentas verificadas han podido generar imágenes en X (a diferencia del sitio internet o la aplicación de Grok) desde el 9 de enero y que ahora rara vez se generan imágenes de mujeres en bikini. “Observamos que parecen haberlo desconectado y desactivado la funcionalidad en X”, dicen.
