Padre Mike Schmitz, un sacerdote católico y locutor de podcasts, se dirigió a su congregación de más de 1,2 millones de suscriptores de YouTube en noviembre con un tipo inusual de homilía. No siempre se podía confiar en las palabras que salían de su boca, dijo Schmitz, porque a veces no eran realmente sus palabras… o su boca. Schmitz se había convertido en el objetivo de estafas de suplantación de identidad generadas por IA.
“Estás siendo observado por un humano demoníaco”, dijo el falso Schmitz en un vídeo que el verdadero Schmitz, vestido con una chaqueta de LL Bean sobre su traje clerical, incluyó como ejemplo en su anuncio de servicio público. “Hay que actuar rápido, porque los espacios para enviar oraciones ya se están agotando”, dijo otro falso Schmitz con un reloj de enviornment a sus espaldas. “Y el próximo viaje sólo se realizará dentro de cuatro meses”. El falso Schmitz sonaba ligeramente robótico mientras instaba a los espectadores a hacer clic en un enlace y obtener su bendición antes de que fuera demasiado tarde.
“Puedo mirarlos y decir ‘Eso es ridículo, nunca diría eso'”, dijo en su video de llamada. “Pero la gente no necesariamente puede decirlo. Eso es un problema. Es como un problema realmente grande”.
En el vídeo actual de Schmitz, algunos de los principales comentarios de sus seguidores dijeron que habían visto otras figuras católicas prominentes personificadas a través de vídeos de AI, incluido el Papa. Según la experta en ciberseguridad Rachel Tobac, directora ejecutiva de SocialProof Safety, esto se debe a que los pastores se han convertido en sujetos extremadamente populares de estafas de inteligencia synthetic y otros medios engañosos.
“Si estás en TikTok o Reels, probablemente hayan encontrado tu página Para ti”, cube Tobac. “Se trata de alguien que parece ser un sacerdote, que viste todas las vestiduras, que está de pie en un púlpito o en un escenario o como se llame, y parece estar hablando a su congregación de una manera muy entusiasta”.
Pastores y ministros en BirminghamAlabama, puerto francoNueva York y Fort LauderdaleFlorida, han advertido a sus seguidores sobre estafas de IA que se hacen pasar por ellos en forma de mensajes directos, llamadas y deepfakes. Alan Beauchamp, un pastor de los Ozarks, dijo en su cuenta de Fb fue hackeadocon el hacker publicando un certificado falso, posiblemente generado por IA, para el comercio de criptomonedas con el nombre de Beauchamp y una leyenda instando a sus feligreses a unirse a él. Una megaiglesia en Filipinas informes recibidos de deepfakes protagonizados por sus pastores. Una iglesia evangélica en Nebraska emitió una “alerta de estafa” de IA En facebooky un feligrés en los comentarios publicó una captura de pantalla de textos que supuestamente eran de uno de sus pastores.
No ayuda que muchos de los pastores y ministros que han conseguido un gran número de seguidores en línea a menudo en realidad estén solicitando donaciones y vendiendo cosas, pero no las mismas cosas que sus imitadores de IA. Con la ayuda de las redes sociales, las autoridades religiosas han podido llegar a los creyentes mucho más allá de sus vecindarios, pero la proliferación de contenido con sus imágenes y voces también ha brindado la oportunidad perfecta para los estafadores que utilizan herramientas de inteligencia synthetic generativa.
