La plataforma X de Elon Musk ha limitado la edición de imágenes con su herramienta de inteligencia synthetic Grok a los usuarios de pago, luego de que fuera criticada por permitir que las personas hicieran deepfakes sexualizados.
Ha habido una reacción significativa después de que el chatbot cumpliera con las solicitudes de los usuarios de alterar digitalmente imágenes de otras personas desnudándolas sin su consentimiento.
Pero Grok ahora le está diciendo a la gente que le pide que cree dicho materials que sólo los suscriptores pagos podrían hacerlo, lo que significa que su nombre e información de pago deben estar archivados.
La BBC se acercó a X para hacer comentarios.
Aquellos que no se suscriban aún pueden usar Grok para editar imágenes en su aplicación y sitio net separados.
“Musk arrojó sus juguetes fuera del cochecito en protesta por tener que rendir cuentas por el tsunami de abusos”, afirmó la profesora Clare McGlynn, experta en la regulación authorized de la pornografía, la violencia sexual y el abuso en línea.
“En lugar de tomar medidas responsables para garantizar que Grok no pueda utilizarse con fines abusivos, ha retirado el acceso a la gran mayoría de los usuarios”.
Viene después del gobierno. instó al regulador Ofcom a utilizar todos sus poderes – hasta e incluyendo una prohibición efectiva – contra X por preocupaciones sobre imágenes ilegales de IA creadas en el sitio.
Respondiendo a las preocupaciones de que Grok hubiera generado imágenes sexualizadas de adultos y niños, el primer ministro Sir Keir Starmer dijo que period “vergonzoso” y “repugnante”.
Dijo que Ofcom contaba con el “pleno apoyo” del gobierno para actuar sobre el contenido.
“Es ilegal. No lo vamos a tolerar. He pedido que todas las opciones estén sobre la mesa”, dijo en una entrevista con Best Hits Radio.
Fuentes gubernamentales dijeron a BBC Information: “Esperaríamos que Ofcom utilizara todos los poderes a su disposición con respecto a Grok y X”.
Los poderes de Ofcom bajo el Ley de seguridad en línea incluir la posibilidad de solicitar una orden judicial para evitar que terceros ayuden a la plataforma propiedad de Elon Musk a recaudar dinero o a que se acceda a ella en el Reino Unido.
La BBC se ha puesto en contacto con el regulador para solicitar comentarios.
Grok es una herramienta gratuita que los usuarios pueden etiquetar directamente en publicaciones o respuestas en publicaciones de otros usuarios para solicitar una respuesta specific.
Pero la función también ha permitido a las personas solicitarle que edite imágenes y pedirle que despoje digitalmente a las personas de la mayor parte de su ropa.
Grok ha cumplido con muchas solicitudes de usuarios que le pedían que editara imágenes de mujeres para mostrarlas en bikini o con poca ropa, algo que quienes recibieron tales solicitudes le dijeron a la BBC que les dejó una sensación “humillado” y “deshumanizado“.
Sin embargo, el viernes por la mañana, Grok les dijo a los usuarios que le pedían que modificara las imágenes cargadas en X que “la generación y edición de imágenes están actualmente limitadas a los suscriptores de pago”.
Agrega que los usuarios “pueden suscribirse para desbloquear estas funciones”.
Algunas publicaciones en la plataforma vistas por BBC Information sugieren que solo aquellos con una marca azul de “verificado”, exclusiva del nivel de suscriptores pagos de X, pudieron solicitar con éxito ediciones de imágenes a Grok.
El profesor McGlynn dijo que la medida se hizo eco del enfoque de X para Deepfakes pornográficos de Taylor Swift en la plataforma el año pasado – donde bloqueó las búsquedas de materials sexualizado generado por la estrella del pop utilizando una función de video Grok AI.
“Está haciendo esto para avivar los argumentos sobre la libertad de expresión”, añadió.
“Afirmará que la regulación está sofocando el uso de esta tecnología por parte de la gente. Pero lo único que la regulación exige es que él tome las precauciones necesarias para reducir el daño”.
