Grok, el chatbot de IA respaldado por Elon Musk entretejido en la estructura de X, ha comenzado a aislar sus herramientas de generación y edición de imágenes para suscriptores pagos. El el cambio sigue a un maremoto de críticas sobre la capacidad de la herramienta para producir imágenes sexualizadas no consensuadas. Si bien la restricción es claramente un intento de detener la marea de controversia, los reguladores, los grupos de defensa y los usuarios argumentan que hace poco para detener la creación de contenido dañino y potencialmente ilegal que involucra a mujeres y niños.
A partir del jueves por la noche, Grok trasladó oficialmente sus funciones de creación de imágenes detrás del muro de pago X Premium, que comienza en $ 8 por mes.
Sin embargo, la medida ha sido ampliamente burlada como una solución “con fugas”. Si bien los usuarios ocasionales en X pueden ser bloqueados, el acceso a las herramientas de generación sigue siendo completamente gratuito a través del sitio net independiente y la aplicación móvil de Grok. Esta laguna jurídica efectivamente socava la afirmación de la plataforma de que está adoptando una postura firme contra el uso indebido, dejando las herramientas más peligrosas aún al alcance del público en basic.
Los investigadores de seguridad y los guardianes digitales no están convencidos de que el requisito de una tarjeta de crédito resuelva el problema. De hecho, muchos argumentan que en realidad monetiza el abuso. Según la investigadora de deepfake Genevieve Oh, Grok seguía publicando más de 1.500 imágenes dañinas cada hora incluso después de que se activara el muro de pago, lo que representa aproximadamente el 60% de su producción whole de imágenes públicas. Los datos de Oh sugieren que Grok actualmente está generando contenido sexualizado a un ritmo que eclipsa incluso a los sitios net más notorios dedicados a la “nudificación”.
Las consecuencias han llegado a los niveles más altos del gobierno de EE.UU.
Los senadores demócratas Ron Wyden, Edward J. Markey y Ben Ray Luján enviaron recientemente una carta a los directores ejecutivos de Apple y Google, exigiendo que X fuera retirado de sus respectivas tiendas de aplicaciones. Los senadores argumentaron que al permitir que estas herramientas persistan, X está mostrando un “completo desprecio” por las reglas de seguridad que todos los demás desarrolladores de aplicaciones se ven obligados a seguir.
La presión internacional también está alcanzando un punto de ebullición. Los funcionarios del Reino Unido e India han criticado el muro de pago como una respuesta inadecuada. Un portavoz del primer ministro británico describió la medida como “insultante” para las víctimas, sugiriendo que X simplemente está convirtiendo una disaster de seguridad en una fuente de ingresos por primas. Las víctimas han compartido historias similares; El activista Jess Davies informó que Grok todavía podía “desnudar” digitalmente una foto de ella a través de su aplicación independiente el viernes por la mañana, a pesar de las supuestas restricciones.
Curiosamente, la controversia parece estar proporcionando un impulso financiero perverso a la plataforma.
Las estimaciones de Sensor Tower muestran que los ingresos por compras dentro de la aplicación móvil en X aumentaron un 18% solo el jueves. Este pico supera con creces el crecimiento diario típico de la aplicación, lo que sugiere que el impulso para acceder al “modo picante” de Grok en realidad podría estar ayudando a los resultados financieros en apuros de X.
Los expertos jurídicos advierten que estas medidas a medias no se mantendrán en los tribunales por mucho tiempo. El fiscal basic de Carolina del Norte, Jeff Jackson, calificó la situación de Grok como un “punto de inflexión” para la seguridad de la IA, y señaló con qué facilidad estos sistemas pueden convertirse en armas. Sostuvo que la period de “moverse rápido y romper cosas” está chocando contra un muro en lo que respecta a la dignidad y seguridad de los ciudadanos privados.
A medida que los muros se acercan, X se enfrenta a una difícil elección: implementar barreras técnicas genuinas y codificadas o enfrentar un apagón whole en las principales tiendas de aplicaciones y mercados internacionales. Si Elon Musk determine restringir el software program en sí (en lugar de simplemente el acceso a él) determinará si Grok tiene futuro como herramienta legítima o si se convierte en un paria de la period de la IA generativa.
