Nikolas Kokovlis | Nurfoto | Imágenes falsas
xAI de Elon Musk dijo el miércoles por la noche que Grok ya no podrá crear imágenes sexualizadas de personas reales en su crimson social X basándose en las indicaciones de los usuarios luego de semanas de reacciones políticas y de consumidores e investigaciones regulatorias.
“Hemos implementado medidas tecnológicas para evitar que la cuenta Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis”, escribió xAI en una publicación compartida a través de la cuenta X Security en el sitio conocido formalmente como Twitter. “Esta restricción se aplica a todos los usuarios, incluidos los suscriptores pagos”.
El anuncio se produce horas después de que el fiscal normal de California, Rob Bonta, dijera que su oficina está investigando a xAI, con sede en Silicon Valley, por su aparente “producción a gran escala de imágenes íntimas no consensuadas y ultrafalsas”.
El gobernador de California, Gavin Newsom, quien a menudo ha sido un defensor de Musk y sus compañías, dijo en una publicación en X el miércoles por la mañana: “La decisión de xAI de crear y albergar un caldo de cultivo para que los depredadores difundan deepfakes de IA sexualmente explícitos no consensuados, incluidas imágenes que desnudan digitalmente a niños, es vil”.
En las últimas semanas, se anunciaron investigaciones en India, Malasia, Indonesia, Irlanda, el Reino Unido, Francia y Australia, y por la Comisión Europea. Tanto Indonesia como Malasia han emitido una prohibición temporal de Grok.
Esos anuncios se produjeron en medio de críticas generalizadas de que Grok había permitido a los usuarios de X generar fácilmente imágenes sexuales y violentas basadas en fotografías reales de personas en la crimson social mediante simples mensajes de texto.
En Estados Unidos, tres senadores demócratas han pedido a Apple y Google que eliminen las aplicaciones X y Grok de sus tiendas de aplicaciones hasta que la empresa realice cambios para evitar la fácil creación de imágenes explícitas no consensuadas.
La compañía de Musk también dijo, en la publicación del miércoles, que la edición de creación de imágenes a través de Grok en X solo estará disponible para suscriptores pagos.
Más temprano el miércoles, Musk desafió a sus seguidores en X a “romper la moderación de imágenes de Grok”. Dijo que “con NSFW habilitado, se supone que Grok permite la desnudez de la parte superior del cuerpo de humanos adultos imaginarios (no reales)”, y comparó dicho contenido con lo que se ve en películas con clasificación R. La configuración de Grok, señaló, también “varía en otras regiones según las leyes, país por país”.
MIRAR: El fiscal normal de California inicia una investigación sobre xAI y Grok
