La controvertida Grokipedia de Elon Musk ha comenzado a aparecer en ChatGPT y en las respuestas de otros chatbots como fuente citada, dándonos una thought de la Web muerta que está a la vuelta de la esquina.
El guardián informa que el último modelo insignia de OpenAI, GPT-5.2, citó a Grokipedia nueve veces en respuesta a más de una docena de preguntas. Esas preguntas abarcaron desde temas como las estructuras políticas en Irán hasta el historiador británico Sir Richard Evans. Gizmodo también pudo generar respuestas de ChatGPT que citaban a Grokipedia al realizar consultas similares.
Musk lanzó Grokipedia en octubre pasado como una alternativa a Wikipedia, en la que los humanos quedan fuera del ciclo de edición. En una publicación de septiembre, Musk dijo que Grokipedia sería “una mejora enorme con respecto a Wikipedia.” También se ha burlado repetidamente de Wikipedia llamándola “Wokipedia” y se ha quejado de que no existe una alternativa importante alineada con puntos de vista de derecha.
Su solución fue crear una nueva plataforma con artículos generados por IA. Gran parte del contenido de Grokipedia parece estar adaptado de Wikipedia, pero con un marco que a menudo favorece las opiniones políticas de Musk.
Por ejemplo, Grokipedia describe los acontecimientos del 6 de enero de 2021 como un “disturbio” en el Capitolio de Estados Unidos, donde “partidarios del presidente saliente Donald Trump protestaron por la certificación de los resultados de las elecciones presidenciales de 2020”. Wikipedia, por el contrario, lo llama “ataque” llevado a cabo por una turba de partidarios de Trump en lo que describe como un intento de autogolpe.
Además, Grokipedia etiqueta a Britain First como “partido político británico de extrema derecha que aboga por la soberanía nacional,mientras que Wikipedia lo describe como un partido político neofascista y grupo de odio.
Grokipedia también adopta un encuadre más suave con respecto a los llamados Gran teoría del reemplazoque afirma que los blancos están siendo reemplazados sistemáticamente por un esfuerzo concertado de reproducción que otras razas perpetúan. Wikipedia etiqueta explícitamente la thought como teoría de la conspiración. Musk es un defensor abierto de la conspiración y comenta periódicamente sobre el “genocidio blanco”.
En basic, Grokipedia está diseñada para producir información no verificada a escala industrial sin que los editores humanos debatan la calidad de la información que proporciona.
Ahora, Grokipedia parece estar insidiosamente invadiendo otros chatbots. The Guardian señaló que ChatGPT no citó a Grokipedia cuando se le preguntó sobre temas en los que se sabía que el sitio promovía información engañosa. En cambio, Grokipedia solo apareció en respuestas a temas más oscuros.
El problema no parece estar aislado de ChatGPT. Algunos usuarios en social medios de comunicación han informado que Claude de Anthropic también ha hecho referencia a Grokipedia en sus respuestas.
OpenAI y Anthropic, la empresa detrás de Claude, no respondieron de inmediato a las solicitudes de comentarios de Gizmodo. Sin embargo, OpenAI dijo a The Guardian que su modelo “pretende aprovechar una amplia gama de fuentes y puntos de vista disponibles públicamente”.
“Aplicamos filtros de seguridad para reducir el riesgo de que aparezcan enlaces asociados con daños de alta gravedad, y ChatGPT muestra claramente qué fuentes informaron una respuesta a través de citas”, dijo un portavoz de OpenAI a The Guardian.
Los investigadores han advertido previamente sobre actores maliciosos que inundan Web con contenido generado por IA en un esfuerzo por influir en grandes modelos de lenguaje en un proceso a veces denominado Maquillaje LLM. Pero los riesgos van más allá de las campañas intencionales de desinformación.
No está del todo claro si los usuarios humanos visitan activamente Grokipedia de forma intencionada. Semanas después del lanzamiento del sitio el año pasado, el agregador de datos Similarweb informó que Grokipedia había caído desde un máximo de 460.000 visitas internet en los EE. UU. el 28 de octubre a aproximadamente 30.000 visitantes diarios. Wikipedia acumula habitualmente cientos de millones de páginas vistas por día. Muchos han especulado que Grokipedia no es realmente para humanos de todos modos; existe para envenenar el pozo para futuros LLM.
Depender demasiado del contenido generado por IA también puede conducir a lo que los investigadores llaman colapso del modelo. Un 2024 estudiar descubrió que cuando los modelos de lenguaje grandes se entrenan cada vez más con datos producidos por otros sistemas de inteligencia synthetic, su calidad basic se degrada con el tiempo.
“En la etapa inicial del colapso del modelo, los primeros modelos pierden varianza, perdiendo rendimiento en datos minoritarios”, dijo a Gizmodo el investigador Ilia Shumailov en ese momento. “En la última etapa del colapso del modelo, [the] El modelo se desmorona por completo”. A medida que los modelos continúan entrenándose con textos menos precisos y menos relevantes que ellos mismos han generado, ese bucle hace que los resultados se degraden y eventualmente dejen de tener mucho sentido.
