La plataforma de redes sociales X de Elon Musk está tomando medidas adicionales para frenar su problema de falsificaciones sexuales, luego de semanas de reacciones violentas y múltiples investigaciones gubernamentales en todo el mundo. Pero los cambios realmente no resuelven el problema por completo y, en cambio, agregan nuevas capas de restricciones limitadas en lugar de una solución para toda la plataforma.
En una publicación bastante confusa del miércoles por la noche, la cuenta @Security de X describieron varias actualizaciones a cómo funcionan sus funciones de generación y edición de imágenes de IA, con diferentes reglas dependiendo de si los usuarios generan o editan imágenes etiquetando la cuenta @Grok o yendo directamente a la pestaña Grok en X.
Primero, la compañía dijo que ha implementado nuevas medidas técnicas para evitar que los usuarios usen específicamente la cuenta @Grok para alterar “imágenes de personas reales con ropa reveladora como bikinis”. X cube que la restricción se aplica a todos los usuarios, incluidos aquellos con un plan premium.
X también reiteró que la generación y edición de imágenes a través de la cuenta @Grok ahora están limitadas a suscriptores pagos.
“Esto agrega una capa adicional de protección al ayudar a garantizar que las personas que intenten abusar de la cuenta de Grok para violar la ley o nuestras políticas puedan ser responsabilizadas”, dijo la compañía en la publicación.
X anunció previamente planes para restringir el uso de @Grok para editar imágenes a usuarios pagos, una medida que generó críticas de funcionarios del gobierno del Reino Unido. Un portavoz de Downing Avenue dijo en ese momento que el cambio “simplemente convierte una función de inteligencia synthetic que permite la creación de imágenes ilegales en un servicio premium”.
Sin embargo, como The Verge señaló por primera vezlas herramientas de generación de imágenes de Grok siguen estando disponibles de forma gratuita cuando los usuarios acceden al chatbot a través del sitio internet y la aplicación independientes de Grok, así como a través de las pestañas de Grok en la aplicación y el sitio internet X. Usando una cuenta gratuita, Gizmodo también pudo acceder a la función de generación de imágenes de Grok a través de la pestaña Grok tanto en el sitio internet de X como en la aplicación móvil. El jueves, el sitio dedicado todavía no nos dio problemas cuando se le pidió que generáramos una imagen de Elon Musk en bikini y estaba dispuesto a quitárselo.
La mayor actualización es que X afirma que ahora bloqueará “la capacidad de todos los usuarios de generar imágenes de personas reales en bikini, ropa inside y vestimenta related a través de la cuenta de Grok y en Grok en X en aquellas jurisdicciones donde sea ilegal”. Esta actualización específica parece aplicarse tanto a la cuenta @Grok como a las pestañas Grok en X.
También llega mientras los legisladores del Reino Unido están trabajando para hacer que tales imágenes sean ilegales.
“Seguimos comprometidos a hacer de X una plataforma segura para todos y seguimos teniendo tolerancia cero con cualquier forma de explotación sexual infantil, desnudez no consensuada y contenido sexual no deseado”, dijo la compañía.
X y su empresa matriz, XAI, no respondieron de inmediato a una solicitud de comentarios de Gizmodo.
Los cambios generales llegan después de semanas de intensa reacción violenta por la reciente proliferación de deepfakes sexuales en la plataforma y un relativo silencio por parte de la propia empresa. Desde finales del mes pasado, algunos usuarios de X han utilizado Grok para generar imágenes sexualizadas a partir de fotografías publicadas por otros usuarios sin su consentimiento, incluidas imágenes que involucran a menores.
Un investigador de redes sociales y deepfake descubrió que Grok generaba aproximadamente 6.700 imágenes sexualmente sugerentes o nudistas por hora durante 24 horas a principios de enero. Bloomberg informó.
Los gobiernos de todo el mundo han respondido rápidamente. Malasia e Indonesia acceso bloqueado a Grokmientras que los reguladores del Reino Unido y unión Europea abrió investigaciones sobre posibles violaciones de las leyes de seguridad en línea.
El regulador en línea del Reino Unido, Ofcom, dijo que continuar su investigación a pesar de los cambios recientemente anunciados.
En Estados Unidos, el fiscal common de California, Rob Bonta, anunció el miércoles que su oficina había lanzado su propia investigación sobre el tema.
Mientras tanto, a medida que se intensificó el escrutinio de Grok, X actualizó silenciosamente sus términos de servicio para exigir que todos los casos legales pendientes y futuros que involucran a la compañía se presenten en la división de Fort Price del Distrito Norte de Texas, donde uno de los tres jueces del tribunal es ampliamente visto como amigable con la compañía.
El organismo de management de izquierda Media Issues, un crítico frecuente de la X de Musk, dijo saldría de la plataforma en respuesta a los términos actualizados.
