X abre el código fuente de su algoritmo mientras enfrenta una multa por transparencia y controversias con Grok

En 2023, el sitio net entonces conocido como Twitter abrió parcialmente su algoritmo por primera vez. En aquellos días, el multimillonario de Tesla, Elon Musk, había adquirido recientemente la plataforma y afirmó tener la misión de reestructurar la plataforma de redes sociales para hacerla más transparente.

Sin embargo, la publicación del código del algoritmo fue rápidamente criticada por ser “teatro de transparencia”, y los críticos señalaron que estaba “incompleto” y que no revelaba mucho sobre el funcionamiento interno de la organización, o por qué el código funcionaba de esa manera.

Ahora el sitio (rebautizado como X) ha vuelto a abrir su algoritmo, cumpliendo una promesa hecha por Musk la semana pasada. “Haremos que el nuevo algoritmo 𝕏, incluido todo el código utilizado para determinar qué publicaciones orgánicas y publicitarias se recomiendan a los usuarios, sea de código abierto en 7 días”. él había dicho. Musk también prometió brindar transparencia al algoritmo cada cuatro semanas en el futuro previsible.

En una publicación En GitHub el martes, X proporcionó un artículo accesible sobre su código de generación de feeds, junto con un diagrama de cómo funciona el programa.

Lo que se ha revelado no es particularmente trascendental, pero proporciona un vistazo detrás de la cortina algorítmica. El diagrama muestra que, al buscar contenido para alimentar a un usuario en explicit, el algoritmo del sitio considera su historial de participación (en qué publicaciones hicieron clic, and so on.) y examina las publicaciones recientes en la pink. También lleva a cabo un análisis basado en aprendizaje automático de publicaciones “fuera de la pink” (como contenido de cuentas que el usuario no necesariamente sigue) que cree que el usuario también podría encontrar atractivo.

Luego, el algoritmo filtra ciertos tipos de publicaciones, incluidas las que provienen de cuentas bloqueadas o que están asociadas con palabras clave silenciadas, así como el contenido que se considera demasiado violento o related al spam. Luego, el algoritmo clasifica este contenido en función de lo que cree que el usuario encontrará más atractivo. Este proceso considera factores como la relevancia y la diversidad de contenido para que los usuarios no solo reciban un montón de publicaciones todas iguales. El algoritmo también considera el contenido de acuerdo con la probabilidad de que al usuario le guste, responda, lo vuelva a publicar, lo marque como favorito o interactúe con él de alguna manera.

Todo este sistema está basado en inteligencia synthetic, según X. El artículo de GitHub publicado el martes señala que el sistema “depende completamente” del “transformador basado en Grok” de la compañía para “aprender relevancia a partir de las secuencias de participación del usuario”. En otras palabras, Grok observa lo que hace clic y lo que le gusta e introduce esa información en el sistema de recomendaciones. El artículo también señala que no existe una “ingeniería guide de funciones para la relevancia del contenido”, lo que significa que los humanos no ajustan manualmente la forma en que el algoritmo determina lo que es relevante. Agrega que la automatización “cut back significativamente la complejidad de nuestros canales de datos e infraestructura de servicio”.

¿Por qué X revela todo esto ahora? No está del todo claro. En el pasado, Musk ha afirmado que quiere hacer de la plataforma un ejemplo de transparencia corporativa, un tema que continúa hasta el día de hoy. En 2023, cuando se reveló por primera vez el algoritmo de Twitter, Musk dijo eso Proporcionar “transparencia del código” sería “increíblemente embarazoso al principio”, pero en última instancia “conduciría a una rápida mejora en la calidad de las recomendaciones”. Y añadió: “Lo más importante es que esperamos ganarnos su confianza”. Con su primer código de código abierto, la plataforma proclamó un “nueva era de transparencia”para Twitter.

Aunque Musk ha hablado de transparencia, podría decirse que ciertos aspectos de la plataforma se han vuelto menos abiertos desde que Musk asumió el management. Cuando el multimillonario tecnológico compró Twitter en 2022, el sitio se vio notablemente obligado a pasar de ser una empresa pública. a uno privado—una evolución que no suele ser sinónimo de apertura. Mientras que el sitio solía publicar múltiples informes de transparencia al añoX no liberó su primer informe de transparencia hasta septiembre de 2024. En diciembre, X fue también multado con 140 millones de dólares por reguladores de la Unión Europea que afirmaron que el sitio había violado las “obligaciones de transparencia” bajo la Ley de Servicios Digitales (DSA), y argumentaron que el sistema de marca de verificación del sitio había hecho más difícil para los usuarios juzgar la autenticidad de cuentas particulares.

X también ha estado bajo presión durante el último mes debido a las formas en que se ha utilizado su chatbot, Grok, para crear y distribuir contenido sexualizado. La oficina del Fiscal Normal de California y los legisladores del Congreso han examinado la plataforma en las últimas semanas, citando afirmaciones de que Grok se ha utilizado para crear imágenes desnudas de mujeres y menores. Como resultado, algunos pueden considerar este llamado a la apertura como más teatro.