Elon Musk ha dicho que los críticos de su sitio de redes sociales X están buscando “cualquier excusa para la censura”, en medio de informes de que el chatbot de inteligencia synthetic (IA) de X, Grok, estaba creando imágenes sexualizadas no consensuadas de personas, incluidos niños.
Ofcom cube que está llevando a cabo una evaluación urgente de X en respuesta, que ha sido respaldada por la Secretaria de Tecnología, Liz Kendall.
Describió la manipulación sexual de imágenes de mujeres y niños como “despreciable y aborrecible”, y añadió que esperaría ver una actualización de Ofcom en “días”.
X ahora ha limitado el uso de la función de imagen de IA a quienes pagan una tarifa mensual, un cambio calificado por Downing Avenue como “insultante” para las víctimas de violencia sexual.
La BBC ha visto varios ejemplos de herramientas gratuitas de inteligencia synthetic que desnudan a mujeres y las ponen en situaciones sexuales sin su consentimiento.
Ashley St Clair, la madre de uno de los hijos de Elon Musk, le dijo a BBC Newshour que Grok había generado fotos sexualizadas de ella cuando period niña.
La influencer conservadora dijo que su imagen había sido “desnudada” para aparecer “básicamente desnuda, inclinada”, a pesar de que le dijo a Grok que no daba su consentimiento a las imágenes sexualizadas.
St Clair, quien presentó una demanda contra Musk el año pasado solicitando la custodia exclusiva de su hijo, acusó al sitio de redes sociales de “no tomar suficientes medidas” para abordar el contenido ilegal, incluidas las imágenes de abuso sexual infantil. “Esto podría detenerse con un mensaje singular para un ingeniero”, dijo.
El viernes por la mañana, Grok les decía a los usuarios que le pedían que modificara las imágenes cargadas en X que “la generación y edición de imágenes están actualmente limitadas a suscriptores de pago”, añadiendo que los usuarios “pueden suscribirse para desbloquear estas funciones”.
Un portavoz de Ofcom dijo: “Nos pusimos en contacto urgentemente [with X] el lunes y fijar un plazo firme para hoy [Friday] para explicarse, a lo que hemos recibido respuesta.”
“Ahora estamos llevando a cabo una evaluación acelerada con carácter de urgencia y proporcionaremos más actualizaciones en breve”.
Los poderes de Ofcom según la Ley de Seguridad en Línea incluyen la posibilidad de solicitar una orden judicial para evitar que terceros ayuden a X a recaudar dinero o a ser accedido en el Reino Unido, en caso de que la empresa se niegue a cumplir.
Kendall ha dicho que Ofcom tendrá todo el apoyo del gobierno si toma la decisión de bloquear X en el Reino Unido.
El uso de Grok para generar imágenes sexualizadas no consensuadas ha sido condenado por políticos de todos lados:
- El primer ministro Sir Keir Starmer lo calificó de “vergonzoso” y “repugnante”.
- El líder reformista del Reino Unido, Nigel Farage, dijo que period “horrible en todos los sentidos” y que X “necesita ir más allá” que los cambios que había realizado en Grok el viernes, pero añadió que prohibir la plataforma sería un ataque a la libertad de expresión.
- Los demócratas liberales pidieron que se restringiera temporalmente el acceso a X en el Reino Unido mientras se investigaba el sitio de redes sociales.
