Grok, el chatbot de inteligencia synthetic de Elon Musk, ha anunciado un cambio en su política que pretende ofrecer más protección contra deepfakes sexualizados, al menos en X. La nueva política se produce cuando California inicia una investigación sobre el tema, mientras que el Reino Unido amenaza con una prohibición.
“Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con prendas reveladoras como bikinis”. leer un extracto de la cuenta X Safety en Xun sitio hermano de Grok, publicado justo antes de las 6 p.m. ET / 3 p.m. PT del miércoles. “Esta restricción se aplica a todos los usuarios, incluidos los suscriptores pagos”.
La actualización de X Security también indicó que se toma en serio el materials de abuso sexual infantil (CSAM) y la desnudez no consensuada antes de reiterar otro cambio reciente: la creación y edición de imágenes a través de la cuenta Grok en X ahora está limitada a los suscriptores.
La cuenta X Security también anunció que ahora tiene la capacidad de geobloquear “a todos los usuarios para [sic] generar imágenes de personas reales en bikini, ropa inside y vestimenta related a través de la cuenta de Grok y en Grok en X en aquellas jurisdicciones donde es ilegal”.
Este Tweet no está disponible actualmente. Es posible que se esté cargando o que se haya eliminado.
Grok y X se han enfrentado a una ola de escrutinio en el nuevo año a medida que imágenes sexualizadas y no consensuadas de celebridades y niños, provocadas por usuarios y creadas por su IA, han proliferado en X. El fiscal common de California, Rob Bonta, ha exigido a Grok y su desarrollador xAI que tomen medidas para eliminar y prevenir dichas imágenes. amenazando con utilizar “todas las herramientas a nuestra disposición” para mantener seguros a sus residentes.
Velocidad de la luz triturable
“Este materials, que muestra a mujeres y niños desnudos y en situaciones sexualmente explícitas, se ha utilizado para acosar a personas en Web”. Bonta dijo en un comunicado el miércoles.
Mientras tanto, el jefe de xAI/X/Grok, Elon Musk, pareció desafiar a los usuarios a “romper la moderación de imágenes de Grok” el mismo día en que X Security anunció sus nuevas actualizaciones de seguridad:
Este Tweet no está disponible actualmente. Es posible que se esté cargando o que se haya eliminado.
Prohibición de Grok: las naciones están considerando bloquear el chatbot de IA por contenido sexual no consensuado
El primer ministro británico, Keir Starmer, amenazó el lunes con tomar medidas contra Musk, diciendo que “si X no puede controlar a Grok, lo haremos”. según un informe de la BBC. Indonesia y Malasia ya bloquearon el acceso a Grok este fin de semana.
Los políticos también han apuntado a Grok y X, y tres senadores pidieron a Apple que elimine los servicios de su tienda de aplicaciones. Las aplicaciones todavía están disponibles en la tienda de aplicaciones de Apple el miércoles por la noche.
Los recientes cambios de X en su política pueden reflejar un reconocimiento por parte de los líderes de la empresa de que no está protegida por la Sección 230 de la Ley de Decencia en las Comunicaciones de Estados Unidos, de 30 años de antigüedad, según la BBC. La sección 230 protege a las empresas de tecnología de demandas relacionadas con el contenido generado por el usuario, pero las imágenes y otros contenidos creados por la propia tecnología de una aplicación pueden ser menos inmunes a dicha inmunidad authorized.
