Esta historia contiene descripciones de contenido sexual explícito y violencia sexual.
El chatbot Grok de Elon Musk ha provocado indignación y pide una investigación después de haber sido utilizado para inundar X con imágenes “desnudas” de mujeres e imágenes sexualizadas de lo que parecen ser menores. Sin embargo, esa no es la única forma en que la gente ha estado utilizando la IA para generar imágenes sexualizadas. El sitio net y la aplicación de Grok, que son independientes de X, incluyen una generación de video sofisticada que no está disponible en X y se utiliza para producir imágenes sexuales de adultos extremadamente gráficas, a veces violentas, que son mucho más explícitas que las imágenes creadas por Grok en X. También pueden haberse utilizado para crear movies sexualizados de aparentes menores.
A diferencia de X, donde la producción de Grok es pública de forma predeterminada, las imágenes y movies creados en la aplicación o sitio net de Grok usando su modelo Think about no se comparten abiertamente. Sin embargo, si un usuario ha compartido una URL de Think about, cualquiera puede verla. Un caché de alrededor de 1200 enlaces de Think about, además de una revisión por CABLE de ellos indexado por Google o compartido en un foro porno deepfake, muestra movies sexuales perturbadores que son mucho más explícitos que las imágenes creadas por Grok en X.
Un video fotorrealista de Grok, alojado en Grok.com, muestra a un hombre y una mujer completamente desnudos generados por IA, cubiertos de sangre en todo el cuerpo y la cara, teniendo relaciones sexuales, mientras otras dos mujeres desnudas bailan en el fondo. El vídeo está enmarcado por una serie de imágenes de personajes de estilo anime. Otro vídeo fotorrealista muestra a una mujer desnuda generada por IA con un cuchillo insertado en sus genitales, con sangre apareciendo en sus piernas y en la cama.
Otros movies cortos incluyen imágenes de celebridades femeninas de la vida actual involucradas en actividades sexuales, y una serie de movies también parecen mostrar a presentadoras de noticias de televisión levantándose la blusa para exponer sus senos. Un vídeo producido por Grok muestra una grabación de imágenes de CCTV que se reproducen en la televisión, donde un guardia de seguridad acaricia a una mujer en topless en medio de un centro comercial.
Varios movies, probablemente creados para tratar de evitar los sistemas de seguridad de contenido de Grok, que pueden restringir el contenido gráfico, se hacen pasar por carteles de “películas” de Netflix: dos movies muestran una representación de inteligencia synthetic desnuda de Diana, princesa de Gales, teniendo relaciones sexuales con dos hombres en una cama con una superposición que representa los logotipos de Netflix y sus sequence. la corona.
Alrededor de 800 de las URL archivadas de Think about contienen movies o imágenes creadas por Grok, cube Paul Bouchaud, investigador principal de AI Forensics, una organización sin fines de lucro con sede en París, que revisó el contenido. Todas las URL se han archivado desde agosto del año pasado y representan sólo una pequeña instantánea de cómo la gente ha utilizado Grok, que probablemente ha creado millones de imágenes en complete.
“Son contenido abrumadoramente sexual”, cube Bouchaud sobre el caché de 800 vídeos e imágenes archivados de Grok. “La mayoría de las veces se trata de contenido explícito manga y hentai y [other] los fotorrealistas. Tenemos desnudos completos, movies pornográficos completos con audio, lo cual es bastante novedoso”.
Bouchaud estima que de las 800 publicaciones, un poco menos del 10 por ciento del contenido parece estar relacionado con materials de abuso sexual infantil (CSAM). “La mayoría de las veces es hentai, pero también hay casos de personas fotorrealistas, muy jóvenes, que realizan actividades sexuales”, cube Bouchaud. “Aún observamos algunos vídeos de mujeres de apariencia muy joven desnudándose y realizando actividades con hombres”, afirman. “Es inquietante a otro nivel”.
El investigador cube que informaron a los reguladores en Europa alrededor de 70 URL de Grok, que pueden contener contenido sexualizado de menores. En muchos países, el CSAM generado por IA, incluido dibujos o animacionespuede considerarse ilegal. Los funcionarios franceses no respondieron de inmediato a la solicitud de comentarios de WIRED; sin embargo, la fiscalía de París recientemente dicho Dos legisladores habían presentado quejas ante su oficina, que está investigando a la empresa de redes sociales, sobre las imágenes “despojadas”.
