Ashley St. Clair, una influencer conservadora y madre de uno de los hijos de Elon Musk, ha demandado a la empresa de inteligencia synthetic de Musk, xAI, alegando que su chatbot Grok es “irrazonablemente peligroso tal como fue diseñado” y ha permitido la creación de imágenes falsas sexualmente explícitas y no consensuadas de ella, incluidas representaciones de ella cuando period niña.La demanda, presentada el jueves en el condado de Nueva York y luego trasladada a un tribunal federal, acusa a xAI de negligencia, angustia emocional y de mantener una molestia pública al permitir a los usuarios de Grok generar imágenes alteradas por IA que eliminan la ropa de fotografías de personas reales. St. Clair también está buscando una orden de restricción temporal para impedir que Grok produzca imágenes que la desnuden, informó The Wall Avenue Journal.Según documentos judiciales, St. Clair le dijo a xAI que Grok estaba siendo utilizado para crear imágenes de ella “como una niña desnuda hasta quedar en un bikini de hilo” y “como una adulta en poses sexualmente explícitas”. A pesar de las garantías de xAI de que sus imágenes no serían alteradas sin su consentimiento, la compañía supuestamente no pudo evitar un mayor uso indebido de la herramienta.“Vive con el temor de que xAI siga creando imágenes desnudas y sexuales de ella misma, incluidas las de ella cuando period niña”, afirma un documento, y agrega que la difusión continua de tales imágenes la ha hecho sentir insegura frente a quienes las consumen.La demanda afirma que la capacidad de Grok para generar deepfakes no consensuales representa un defecto de diseño y que xAI podría prever razonablemente que la herramienta se utilizaría para acosar y explotar a personas. También alega que después de que St. Clair se quejara, xAI tomó represalias desmonetizando su cuenta X.xAI y X no respondieron de inmediato a las solicitudes de comentarios. El mismo día que St. Clair presentó su demanda, xAI la demandó en un tribunal federal de Texas, alegando que violó los términos de servicio de la empresa y solicitando daños y perjuicios que superaban los 75.000 dólares. xAI sostiene que cualquier reclamo authorized debe presentarse en los tribunales de Texas.
Grok enfrenta una reacción international y un escrutinio regulatorio
La demanda de St. Clair se produce en medio de una creciente reacción internacional por el papel de Grok en la generación de imágenes sexualizadas no consensuadas, incluido contenido que involucra a menores. Los investigadores han informado que Grok produjo miles de imágenes de este tipo por hora en el pico de la controversia, muchas de las cuales fueron compartidas públicamente en X.El fiscal normal de California, Rob Bonta, inició una investigación sobre Grok y el gobernador Gavin Newsom calificó las acciones de xAI como “un caldo de cultivo para los depredadores”.En Europa, Francia ha denunciado a X ante los fiscales, describiendo el contenido como “manifiestamente ilegal”, mientras que el regulador de medios británico Ofcom ha abierto una investigación para determinar si Grok violó las leyes del Reino Unido que protegen a los usuarios de contenidos ilegales, incluido el abuso de imágenes íntimas y el materials de abuso sexual infantil.Los gobiernos asiáticos también han respondido con dureza. Indonesia y Malasia bloquearon temporalmente el acceso a Grok, y el Ministerio de TI de la India emitió advertencias a X sobre contenido obsceno e ilegal generado por IA. Tras la presión de las autoridades indias, X reconoció fallas en la moderación, eliminó casi 3.500 contenidos y eliminó más de 600 cuentas.Desde entonces, X ha restringido las funciones de generación de imágenes de Grok a usuarios de pago y ha dicho que elimina el contenido ilegal y suspende permanentemente a los infractores.
