Una publicación viral de Reddit que alega fraude en una aplicación de entrega de alimentos resultó ser generada por IA

Un usuario de Reddit que afirma ser un denunciante de una aplicación de entrega de alimentos ha sido descubierto como falso. El usuario escribió una publicación viral alegando que la empresa para la que trabajaba estaba explotando a sus conductores y usuarios.

“Ustedes siempre sospechan que los algoritmos están manipulados en su contra, pero la realidad es mucho más deprimente que las teorías de la conspiración”, escribió el supuesto denunciante.

Afirmó estar borracho y en la biblioteca para usar su Wi-Fi público, donde estaba escribiendo esta larga perorata sobre cómo la compañía estaba explotando las lagunas legales para robar las propinas y los salarios de los conductores con impunidad.

Desafortunadamente, esas afirmaciones eran creíbles: DoorDash en realidad period demandado por robar propinas a los conductores, lo que resultó en una 16,75 millones de dólares asentamiento. Pero en este caso, el cartel había inventado su historia.

La gente miente en Web todo el tiempo. Pero no es tan común que este tipo de publicaciones lleguen a la página principal de Reddit, obtengan más de 87.000 votos positivos y se publiquen en otras plataformas como X, donde obtuvieron otros 208.000 me gusta y 36,8 millones de impresiones.

Casey Newton, el periodista detrás Plataformas, escribió que se puso en contacto con el cartel de Reddit, quien luego lo contactó a través de Sign. El Redditor compartió lo que parecía una foto de su insignia de empleado de UberEats, así como una “Documento interno” de 18 páginas que describe el uso de la IA por parte de la empresa para determinar la “puntuación de desesperación” de los conductores individuales. Pero cuando Newton intentó verificar que el relato del denunciante period legítimo, se dio cuenta de que lo estaban incitando a cometer un engaño de IA.

“Durante la mayor parte de mi carrera hasta este momento, el documento que el denunciante compartió conmigo habría parecido muy creíble, en gran parte porque habría llevado mucho tiempo redactarlo”, escribió Newton. “¿Quién se tomaría el tiempo de elaborar un documento técnico detallado de 18 páginas sobre la dinámica del mercado sólo para engañar a un periodista? ¿Quién se tomaría la molestia de crear una insignia falsa?”

Siempre ha habido malos actores que han tratado de engañar a los periodistas, pero la prevalencia de las herramientas de inteligencia synthetic ha hecho que la verificación de hechos requiera aún más rigor.

Los modelos de IA generativa a menudo no detectan si una imagen o un vídeo son sintéticos, lo que dificulta determinar si el contenido es actual. En este caso, Newton pudo utilizar Gemini de Google para confirmar que la imagen fue hecha con la herramienta de inteligencia synthetic, gracias a Google. SynthID marca de agua, que puede resistir el recorte, la compresión, el filtrado y otros intentos de alterar una imagen.

Max Spero, fundador de Laboratorios Pangramuna empresa que fabrica una herramienta de detección de texto generado por IA, trabaja directamente con el problema de distinguir contenido actual y falso.

“La caída de la IA en Web ha empeorado mucho, y creo que parte de esto se debe al mayor uso de LLM, pero también a otros factores”, dijo Spero a TechCrunch. “Hay empresas con ingresos millonarios que pueden pagar por una ‘participación orgánica’ en Reddit, lo que en realidad significa que intentarán volverse virales en Reddit con publicaciones generadas por IA que mencionen su marca”.

Herramientas como Pangram pueden ayudar a determinar si el texto es generado por IA, pero especialmente cuando se trata de contenido multimedia, estas herramientas no siempre son confiables, e incluso si se demuestra que una publicación sintética es falsa, es posible que ya se haya vuelto viral antes de ser desacreditada. Entonces, por ahora, nos quedamos navegando por las redes sociales como detectives, dudando si algo de lo que vemos es actual.

Caso en cuestión: cuando le dije a un editor que quería escribir sobre el “engaño viral de entrega de alimentos con IA que estuvo en Reddit este fin de semana”, pensó que estaba hablando de otra cosa. Sí, hubo más de un “engaño viral de entrega de alimentos con IA en Reddit este fin de semana”.