El vídeo de 61 segundos del primer ministro británico Keir Starmer sería impactante, si fuera cierto. “El Reino Unido introducirá un toque de queda a nivel nacional, a partir de las 11 de la noche cada noche”, parece decir en uno de los miles de movies suyos en TikTok publicados en los últimos seis meses. “Según la nueva norma, nadie podrá salir de su casa después de las 23:00 horas sin autorización oficial”.Starmer nunca hizo tal política o anuncio. Pero gracias a la IA, el primer ministro del video corto sonaba inquietantemente como el actual. El vídeo falso atrajo más de 430.000 visitas e inspiró publicaciones similares en X y Fb. Ese vídeo, y otros similares, parecen haber sido eliminados por la empresa de redes sociales de propiedad china, que prohíbe oficialmente “fuentes autorizadas falsas o eventos de disaster, o muestra falsamente figuras públicas en ciertos contextos”.“
Pero el clip fue solo uno de 6.042 movies de este tipo, la mayoría con Starmer, identificado por NewsGuard, una compañía que rastrea información errónea en línea, entre mayo y diciembre. En un informe, dijo que los movies fueron publicados por cuentas con nombres de organizaciones de noticias falsas que suenan británicas como “BBB UK Information” y “Each day Britain Information”. Juntas, las cuentas tenían más de 1 millón de seguidores cuando se publicó el informe. “Emula consistentemente a Starmer”, dijo Eva Maitland, analista senior de influencia rusa en NewsGuard. “Produce afirmaciones falsas o infundadas que quedan mal para el gobierno de Starmer, y en cierto modo se crean para generar una fuerte respuesta de la gente para que hagan clic en ello”.Maitland dijo que los movies no parecen ser parte de un esfuerzo coordinado de adversarios extranjeros como Rusia o los oponentes políticos internos del primer ministro para dañarlo ante los ojos de los votantes. Más bien, dijo, probablemente estén siendo creados por productores de contenido cuyo objetivo principal es ganar dinero haciendo movies que se vuelvan virales.La adopción generalizada de herramientas de generación de vídeos con IA fáciles de usar, como Sora de OpenAI, ha aumentado drásticamente la cantidad de vídeos falsos en TikTok y otras plataformas de redes sociales. Los vídeos falsos llegan en un momento especialmente difícil para el primer ministro, que ya sufre unos resultados muy bajos en las encuestas. En un vídeo, Starmer parece anunciar nuevas leyes sobre licencias de conducir que podrían privar a muchos británicos de su capacidad para conducir legalmente en el país. Otro vídeo tiene la voz falsa de Starmer declarando que las nuevas reglas permitirán a las autoridades acceder al teléfono de cualquier británico, junto con sus datos privados. En los días inmediatamente posteriores a que NewsGuard publicara su informe el 9 de diciembre, muchos de los movies estaban disponibles en TikTok. El 19 de diciembre, la mayoría parecía haber sido eliminada de la plataforma. Howard dijo que el uso de la IA en la política está aumentando rápidamente. “Sabemos que ahora está generalizado a nivel internacional”, dijo. “Cuatro de cada cinco elecciones en todo el mundo ahora tienen basura política generada por IA que no está atribuida y es claramente engañosa.“
