Grok, de Elon Musk, el chatbot desarrollado por su empresa xAI, reconoció “fallas en las salvaguardias” en la plataforma que permitían a los usuarios generar fotografías sexualizadas y alteradas digitalmente de menores.
La admisión se produce después de que varios usuarios alegaran en las redes sociales que las personas están usando Grok para generar imágenes sugerentes de menores, en algunos casos despojándolos de la ropa que llevaban en las fotos originales.
en un correo El viernes, respondiendo a una persona en el sitio de redes sociales X, propiedad de Musk, Grok dijo que estaba “arreglando urgentemente” los agujeros en su sistema. Grok también incluyó un enlace a CyberTipline, un sitio net donde las personas pueden denunciar la explotación sexual infantil.
“Hay casos aislados en los que los usuarios solicitaron y recibieron imágenes de IA que mostraban a menores con ropa mínima, como el ejemplo al que hizo referencia”, dijo Grok en un comunicado separado. correo el X del jueves. “xAI tiene salvaguardias, pero se están realizando mejoras para bloquear por completo dichas solicitudes”.
En otra publicación en las redes sociales, un usuario publicó fotos una al lado de la otra de ella con un vestido y otra que parece ser una versión alterada digitalmente de la misma foto de ella en bikini. “¿Cómo es que esto no es ilegal?” ella escribió en X.
El viernes, funcionarios franceses informaron a los fiscales del contenido sexual explícito generado por Grok, refiriéndose a él como “manifiestamente ilegal” en un comunicado, según Reuters.
xAI, la compañía que desarrolló el chatbot de inteligencia synthetic Grok, dijo “Legacy Media Lies” en respuesta a una solicitud de comentarios.
Grok ha asumido de forma independiente cierta responsabilidad por el contenido. en uno instancia La semana pasada, el chatbot se disculpó por generar una imagen de IA de dos menores con “atuendo sexualizado”, y agregó que la fotografía synthetic violaba los estándares éticos y potencialmente la ley estadounidense sobre pornografía infantil.
Copyleaks, una herramienta de detección de contenido de IA y plagio, dijo en un weblog reciente correo que hay muchos ejemplos de Grok generando versiones sexualizadas de mujeres.
“Cuando los sistemas de inteligencia synthetic permiten la manipulación de imágenes de personas reales sin un consentimiento claro, el impacto puede ser inmediato y profundamente private”, dijo en la publicación Alon Yamin, director ejecutivo y cofundador de Copyleaks.
