Indonesia y Malasia bloquean el acceso a Grok, el Reino Unido amenaza con prohibirlo a medida que crece el problema explícito de deepfake

Se cortó el acceso a Grok para los usuarios de Indonesia y Malasia debido a la preocupación de que las salvaguardias del chatbot xAI fueran ineficaces.

Ambos países emitieron suspensiones temporales destinadas a permanecerá en vigor hasta que xAI implemente salvaguardas que cumplan con las exigencias de los reguladores.

“El gobierno considera la práctica de deepfakes sexuales no consentidos como una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”, escribió El ministro de Comunicaciones y Asuntos Digitales de Indonesia, Meutya Hafid, en un comunicado publicado el sábado. Indonesia ha arrasado leyes de censura en internet que rigen el contenido considerado “obsceno”.

Malasia había iniciado recientemente una investigación sobre el “uso indebido de herramientas de inteligencia synthetic (IA) en la plataforma X”, como parte de una ola de acciones de intervención tomadas por los reguladores. Esa investigación siguió a un aviso del Ministerio de TI de la India que ordenaba a X tomar medidas inmediatas sobre el presunto uso indebido de Grok. El aviso aludía a posibles violaciones de la Ley de Tecnología de la Información del país.

Las autoridades francesas en la fiscalía de París y otros gobiernos extranjerosincluido el Reino Unido y un Investigación de la UEhan anunciado investigaciones similares sobre la tecnología de xAI y su regulación según las leyes de seguridad en línea pertinentes. El primer ministro australiano, Anthony Albanese, también emitió una declaración sobre los problemas de Grok con los deepfakes, reiterando la decisión del país de prohibir las redes sociales a usuarios menores de 16 años. Centro Nacional sobre Explotación Sexual (NCOSE) ha pedido al Departamento de Justicia y a la Comisión Federal de Comercio que investiguen a X en virtud de las leyes existentes sobre materials de abuso sexual infantil (CSAM) y la reciente Ley Take It Down.

La secretaria de tecnología del Reino Unido, Liz Kendall, dijo recientemente que soporte de bloqueo X directamente, en caso de que la Oficina de Comunicaciones del Reino Unido (Ofcom) concluya que la plataforma viola la Ley de Seguridad en Línea. Kendall dijo que espera que se tome una decisión en los próximos días.

Elon Musk, quien anteriormente había dicho que los usuarios deberían enfrentar consecuencias por “cargar contenido ilegal” en X, respondió a las amenazas de prohibición acusando al gobierno del Reino Unido de ser demasiado ansioso por censurar a la empresa. En una publicación en X, Musk escribió: “Sólo quieren suprimir la libertad de expresión”. Musk también compartió varias publicaciones de X que afirman que Grok está siendo atacado por funcionarios del gobierno.

Un reciente Investigación cableada descubrió que las versiones de escritorio y de aplicación de Grok Think about podían producir materials gráfico y sexualmente violento, representaciones de celebridades en escenarios sexuales y posible CSAM generado por IA, a pesar de las salvaguardias incorporadas. El chatbot tiene un ahora Historial bien documentado de producción de deepfakes sexualizados.incluso a petición de usuarios que le piden a Grok que “desnude” a personas sin consentimiento en fotografías subidas públicamente.