“Estamos entrando en una nueva fase de guerra informativa en las plataformas de redes sociales, donde los avances tecnológicos han dejado obsoleto el enfoque clásico de los bots”, afirma Jonas Kunst, profesor de comunicación en la BI Norwegian Enterprise College y uno de los coautores del informe.
Para los expertos que han pasado años rastreando y combatiendo campañas de desinformación, el documento presenta un futuro aterrador.
“¿Qué pasaría si la IA no fuera solo información alucinante, sino que miles de chatbots de IA estuvieran trabajando juntos para dar la apariencia de apoyo well-liked donde no lo había? Ese es el futuro que imagina este documento: granjas de trolls rusas con esteroides”, cube Nina Jankowicz, ex zar de la desinformación de la administración Biden y ahora directora ejecutiva del American Daylight Mission.
Los investigadores dicen que no está claro si esta táctica ya se está utilizando porque los sistemas actuales implementados para rastrear e identificar comportamientos no auténticos coordinados no son capaces de detectarlos.
“Debido a sus características difíciles de imitar a los humanos, es muy difícil detectarlos y evaluar en qué medida están presentes”, cube Kunst. “Nos falta acceso a la mayoría [social media] plataformas porque las plataformas se han vuelto cada vez más restrictivas, por lo que es difícil obtener una concept allí. Técnicamente, definitivamente es posible. Estamos bastante seguros de que se está probando”.
Kunst añadió que es possible que estos sistemas sigan teniendo cierta supervisión humana mientras se desarrollan, y predice que, si bien es posible que no tengan un impacto masivo en las elecciones intermedias de noviembre de 2026 en Estados Unidos, es muy possible que se implementen para perturbar las elecciones presidenciales de 2028.
Las cuentas indistinguibles de las humanas en las plataformas de redes sociales son sólo un problema. Según los investigadores, la capacidad de mapear las redes sociales a escala permitirá a quienes coordinan campañas de desinformación dirigirse a agentes en comunidades específicas, asegurando el mayor impacto.
“Equipados con tales capacidades, los enjambres pueden posicionarse para lograr el máximo impacto y adaptar mensajes a las creencias y señales culturales de cada comunidad, lo que permite una orientación más precisa que la de las botnets anteriores”, escriben.
Dichos sistemas podrían mejorarse esencialmente a sí mismos, utilizando las respuestas a sus publicaciones como retroalimentación para mejorar el razonamiento con el fin de transmitir mejor un mensaje. “Con señales suficientes, pueden ejecutar millones de pruebas microA/B, propagar las variantes ganadoras a la velocidad de la máquina e iterar mucho más rápido que los humanos”, escriben los investigadores.
Para combatir la amenaza que representan los enjambres de IA, los investigadores sugieren el establecimiento de un “Observatorio de Influencia de la IA”, que estaría formado por personas de grupos académicos y organizaciones no gubernamentales que trabajarían para “estandarizar la evidencia, mejorar la conciencia situacional y permitir una respuesta colectiva más rápida en lugar de imponer sanciones de reputación de arriba hacia abajo”.
Un grupo no incluido son los ejecutivos de las propias plataformas de redes sociales, principalmente porque los investigadores creen que sus empresas incentivan el compromiso por encima de todo lo demás y, por lo tanto, tienen pocos incentivos para identificar estos enjambres.
“Digamos que los enjambres de IA se vuelven tan frecuentes que no se puede confiar en nadie y la gente abandona la plataforma”, cube Kunst. “Por supuesto, entonces amenaza el modelo. Si simplemente aumentan la participación, para una plataforma es mejor no revelar esto, porque parece que hay más participación, se ven más anuncios, eso sería positivo para la valoración de una determinada empresa”.
Además de la falta de acción por parte de las plataformas, los expertos creen que hay pocos incentivos para que los gobiernos se involucren. “El panorama geopolítico precise podría no ser favorable para los ‘observatorios’ que esencialmente monitorean las discusiones en línea”, cube Olejnik, algo con lo que Jankowicz está de acuerdo: “Lo más aterrador de este futuro es que hay muy poca voluntad política para abordar los daños que crea la IA, lo que significa [AI swarms] Puede que pronto sea una realidad.”
