Una coalición de casi 30 grupos de defensa está pidiendo a Google y Apple que eliminen el acceso a la plataforma de redes sociales X y su aplicación de inteligencia synthetic, Grok, de sus tiendas de aplicaciones después de que Grok permitiera a los usuarios generar información sexualizada. Imágenes de menores y mujeres.
Las organizaciones, que se centran en la seguridad infantil, los derechos de las mujeres y la privacidad, expresaron su preocupación en letras el miércoles al director ejecutivo de Apple, Tim Cook dinner, y al director ejecutivo de Google, Sundar Pichai, alegando que el contenido de Grok viola las políticas de las empresas de tecnología.
“Exigimos que los líderes de Google eliminen urgentemente Grok y X de Play Retailer para evitar mayores abusos y actividades criminales”, dijeron los grupos, utilizando el mismo lenguaje en su carta a Apple.
Apple y Google no respondieron de inmediato a una solicitud de comentarios.
Elon Musk, propietario de X y xAI, la empresa que desarrolló Grok, dicho en una publicación en las redes sociales el miércoles que “no tiene conocimiento de las imágenes de menores desnudos generadas por Grok. Literalmente cero”. También dijo que el chatbot rechaza solicitudes para generar imágenes ilegales.
“Puede haber ocasiones en las que el pirateo de los mensajes de Grok por parte de adversarios haga algo inesperado. Si eso sucede, solucionamos el error de inmediato”, escribió.
Las críticas a Grok aumentaron a principios de enero después de que la aplicación de inteligencia synthetic generativa permitiera a los usuarios crear imágenes de menores con ropa mínima. En respuesta a una solicitud de un usuario, Grok reconoció fallas en sus salvaguardas digitales.
Copyleaks, una herramienta de detección de contenido de inteligencia synthetic y plagio, dijo a CBS Information a principios de este mes que había detectado miles de imágenes sexualmente explícitas creadas por Grok. en diciembre análisisel grupo estimó que el chatbot estaba creando “aproximadamente una imagen sexualizada no consensuada por minuto”.
La Web Watch Basis (IWF), que busca eliminar el abuso sexual infantil de Web, también ha expresado su preocupación por Grok y otras herramientas de inteligencia synthetic.
“Estamos extremadamente preocupados por la facilidad y velocidad con la que la gente aparentemente puede generar materials fotorrealista sobre abuso sexual infantil”. Ngaire Alexander, jefe de la línea directa de la IWF, dijo a CBS Information en un comunicado la semana pasada. “Herramientas como Grok ahora corren el riesgo de incorporar imágenes sexuales de niños mediante IA a la corriente principal”.
Grok dijo a los usuarios la semana pasada en X que el acceso a su herramienta de generación de imágenes ahora estaba disponible sólo para suscriptores de pago.
California abre investigación
Grok también está atrayendo el escrutinio de legisladores y autoridades estadounidenses en el extranjero. El miércoles, el fiscal normal de California, Rob Bonta anunciado estaba abriendo una investigación sobre el materials sexualmente explícito producido con Grok.
“La avalancha de informes que detallan el materials sexualmente explícito y no consensuado que xAI ha producido y publicado en línea en las últimas semanas es impactante”, dijo Bonta. “Este materials, que muestra a mujeres y niños desnudos y en situaciones sexualmente explícitas, se ha utilizado para acosar a personas en Web. Insto a xAI a tomar medidas inmediatas para garantizar que esto no vaya más allá”.
El Primer Ministro del Reino Unido, Keir Starmer, planteó la semana pasada la posibilidad de prohibir Xque utiliza Grok, en Gran Bretaña por la generación de imágenes sexualizadas de personas sin su consentimiento mediante la herramienta de inteligencia synthetic.
La Comisión Europea también está supervisando las medidas que X está tomando para evitar que Grok genere imágenes inapropiadas de niños y mujeres. Reuters informó el miércoles.
