Grok, el asistente multiuso, verificador de datos y generador de contenido de xAI, está bajo estrecha vigilancia por parte de los reguladores internacionales que temen que el chatbot sea peligroso.
A principios de enero, los usuarios de X descubrieron que Grok estaba cumpliendo con las solicitudes de crear representaciones sexualizadas de menores con ropa reveladora, una forma de materials de abuso sexual infantil (CSAM). El private de xAI dijo que estaban buscando fortalecer las barreras del chatbot.
Grok cube que ha restringido la generación de imágenes a los suscriptores después de preocupaciones sobre los deepfakes. ¿Pero lo tiene?
Pero no es una solución sencilla. Investigaciones recientes de Reuters, El Atlánticoy cableado encontró fallas generalizadas en las salvaguardias del modelo, que han permitido que Grok genere una proliferación de contenido no consensuado, sexual y, a veces, gráficamente violento a solicitud de los usuarios. En X, los investigadores han descubierto un problema de “desnudo” masivo, marcado por numerosas cuentas de usuarios cuyas imágenes publicadas públicamente han sido editadas por el chatbot integrado para ponerse ropa reveladora. RAINN, la organización nacional sin fines de lucro contra la agresión sexual, ha llamado a esto una forma de Abuso sexual mediante IA o tecnología.
Otros chatbots y generadores de imágenes impulsados por IA también han sido objeto de escrutinio por no implementar salvaguardias con respecto al contenido sexual, incluidos los compañeros de IA de Meta.
En respuesta a las preocupaciones de los usuarios sobre X, el director ejecutivo, Elon Musk, afirmó que la empresa se toma en serio la generación de contenido ilegal, pero argumentó que las ramificaciones legales deberían recaer en los usuarios. Más tarde, Musk respondió a los comentarios de los líderes del Reino Unido sobre un posible bloqueo en todo el sitio, calificándolo de forma de censura y alegando que los gobiernos extranjeros están ansiosos por silenciar la libertad de expresión en línea.
Los gobiernos toman medidas enérgicas contra xAI
En respuesta al lento movimiento de los equipos de X, los países han comenzado a restringir el acceso al bot y a la aplicación independiente de xAI, mientras varios realizan investigaciones sobre las salvaguardias de Grok, la respuesta de xAI y la posibilidad de que la compañía esté violando varias leyes de seguridad en línea.
Velocidad de la luz triturable
La empresa ya se ha enfrentado a varias investigaciones antes de las recientes afirmaciones de que Grok habilitó CSAM.
Además de la investigación en curso sobre la moderación de contenido y los algoritmos de X, los miembros han presionado para que la Unión Europea investigue a Grok por varias supuestas violaciones de su Ley de Servicios Digitales, incluidas las potencialmente peligrosas y comportamiento “errático”. En las últimas semanas, el organismo ordenó a X que conservara todos los datos y documentos internos relacionados con Grok mientras amplía su investigación.
A pesar de que un portavoz de la comisión calificó la conducta de Grok de “ilegal”, los organismos de management tecnológico se muestran escépticos de que el organismo invoque sus medidas para bloquear el sitio por completo.
El regulador de comunicaciones del Reino Unido, Ofcom, también anunció una investigación oficial en Grok, con una multa potencial de ingresos de hasta el 10 por ciento (alrededor de $24 millones) si se descubre que ha violado la Ley de Seguridad en Línea.
Organizaciones en los EE. UU. han pedido a las agencias federales que investiguen xAI también, citando la recientemente aprobada Ley Take It Down, que penaliza la publicación o la amenaza de publicar imágenes íntimas no consensuales (NCII) y otorga a la Comisión Federal de Comercio (FTC) autoridad para demandar a las plataformas de redes sociales que no cumplan con las solicitudes de eliminación.
Mientras tanto, otros países están avanzando con prohibiciones absolutas hasta que la empresa cumpla con las investigaciones o revise la estructura de seguridad de Grok.
Países que han bloqueado el acceso a Grok
Regiones investigan activamente o amenazan con suspender a Grok
-
India
-
La Unión Europea
-
Francia
-
El Reino Unido – Considerando bloquear servicios
-
Brasil – Amenazó con suspender a Grok
-
Australia – Ya bloquea el acceso a las redes sociales para usuarios menores de 16 años
Si se han compartido imágenes íntimas sin su consentimiento, llame a la línea directa 24 horas al día, 7 días a la semana de Cyber Civil Rights Initiative al 844-878-2274 para obtener asistencia gratuita y confidencial. El sitio net del CCRI también incluye información útil así como una lista de recursos internacionales.
