Nurfoto | Nurfoto | Imágenes falsas
Malasia e Indonesia bloquearon el acceso al chatbot de inteligencia synthetic Grok de Elon Musk durante el fin de semana debido a la preocupación de que la herramienta se estuviera utilizando para generar contenido sexual explícito y no consensuado.
Reguladores de Malasia ordenado Se impondrán restricciones temporales al chatbot de xAI el domingo luego de “fallos repetidos de X Corp” para abordar los riesgos asociados con la herramienta de inteligencia synthetic.
La medida se produjo apenas un día después de que Indonesia interviniera para suspender el acceso a Grok por preocupaciones similares y convocara a X funcionarios sobre el asunto. según la traducción de la declaración de CNBC.
Las acciones de los países del sudeste asiático se producen después de que se descubriera que Grok de xAI permitía a los usuarios generar y compartir fácilmente imágenes en línea que incluían imágenes explícitas no consensuadas y materials de abuso sexual infantil (CSAM).
La compañía de Musk había actualizado recientemente sus funciones Grok Think about, lo que permite una generación de imágenes más sencilla a partir de indicaciones basadas en texto en el chatbot, que está integrado con la plataforma de redes sociales X de Musk, lo que le otorga un amplio alcance.
En medio de las crecientes preocupaciones sobre la política de moderación de contenido de Grok, xAI anunciado limitaría las funciones de generación y edición de imágenes a los suscriptores de pago, en un esfuerzo por cerrar las brechas de protección que permitían resultados sexualizados.
Almizcle, respondiendo on X, también ha afirmado que los usuarios que creen contenido ilegal a través de Grok enfrentarían consecuencias equivalentes a cargar dicho materials directamente en la plataforma de redes sociales.
CNBC intentó comunicarse con xAI para hacer comentarios sobre los acontecimientos del fin de semana. Un correo electrónico de prensa de la empresa devolvió un mensaje automático que decía “Mentiras de los medios heredados”.
Respuestas “insuficientes”
Las respuestas públicas y privadas de X en medio de la controversia no han logrado satisfacer las preocupaciones de los reguladores de Indonesia y Malasia, así como de otros que han iniciado investigaciones.
La Comisión de Comunicaciones y Multimedia de Malasia dijo que las respuestas “insuficientes” de X “se basaron principalmente en mecanismos de informes iniciados por los usuarios y no abordaron los riesgos inherentes planteados por el diseño y operación de la herramienta de IA”.
“En consecuencia, la restricción se impone como medida preventiva y proporcionada mientras los procesos legales y regulatorios están en curso”, dijo el organismo de management. “El acceso a Grok seguirá restringido hasta que se implementen salvaguardias efectivas, particularmente para evitar contenidos que involucren a mujeres y niños”.
Tanto Indonesia como Malasia mantienen estrictas leyes contra la pornografía, que prohíben de manera más amplia compartir contenido obsceno y sexual en línea.
Mientras tanto, el Ministerio de Comunicaciones y Asuntos Digitales de Indonesia, Meutya Hafid, dijo que “el gobierno considera que los deepfakes sexuales no consensuados son una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”.
Hafid también categorizó el uso indebido de la IA para producir pornografía falsa como una forma de “violencia digital”, según declaraciones compartidas por la empresa estatal Antara Information.
Las autoridades de otras jurisdicciones, incluidas la Unión Europea, el Reino Unido, Brasil y la India, también han pidió investigaciones sobre el papel de Grok en la facilitación de deepfakes obscenos.
Un organismo de control del Reino Unido, la Internet Watch Foundation, dicho la semana pasada que sus analistas habían descubierto “imágenes criminales” de niños de entre 11 y 13 años, que parecen haber sido creadas con Grok.
Algunos legisladores demócratas en Washington han recomendado que las tiendas de aplicaciones suspendan la herramienta de inteligencia synthetic, al menos hasta que Musk implemente cambios importantes.
En un correo electrónico enviado a CNBC la semana pasada, el Departamento de Justicia dijo en un comunicado que “se toma muy en serio el materials de abuso sexual infantil generado por IA y procesará agresivamente a cualquier productor o poseedor de CSAM”.
“Continuamos explorando formas de optimizar la aplicación de la ley en este espacio para proteger a los niños y responsabilizar a las personas que explotan la tecnología para dañar a los más vulnerables”, agregó.
— Lora Kolodny de CNBC contribuyó a este informe..
