Las herramientas de inteligencia synthetic están impulsando la creación de materials de abuso sexual infantil en línea, según un nuevo estudio que documentó el aumento de materials de IA fotorrealista que contiene el contenido conocido como CSAM.
Los analistas del grupo con sede en el Reino Unido Web Watch Basis (IWF) detectaron el año pasado un récord de 3.440 vídeos de IA sobre abuso sexual infantil, frente a sólo 13 vídeos el año anterior, un aumento del 26.362%. De los movies de IA que rastrearon, más de la mitad cumplen con la descripción de lo que la IWF llama “categoría A”, una clasificación que puede incluir las imágenes más gráficas y la tortura.
La IWF advierte que la tecnología de inteligencia synthetic puede tener efectos nocivos en los niños, cuyas imágenes pueden ser utilizadas por malos actores. Las herramientas en rápido desarrollo también pueden permitir que personas con conocimientos técnicos mínimos hagan movies dañinos a escala, dijo el grupo de vigilancia de Web.
“Los analistas creen que los delincuentes están utilizando la tecnología en mayor número a medida que mejora la sofisticación de las herramientas de vídeo de IA”, cube el informe.
Los movies de AI son parte de un conjunto más grande de materials de abuso sexual infantil que la IWF identificó y eliminó el año pasado. La organización dijo que respondió a más de 300.000 informes en 2025 que incluían CSAM.
La ley federal de EE. UU. prohíbe la producción y distribución de CSAM, que el Departamento de Justicia ha prohibido. dicho es una frase más amplia para la pornografía infantil.
El informe llega en medio de una reacción contra Grok, un chatbot de IA desarrollado por la empresa xAI de Elon Musk, después de que permitiera a los usuarios generar imágenes sexualmente explícitas de mujeres y menores. en diciembre análisisCopyleaks, una herramienta de detección de contenido de IA y plagio, estimó que el chatbot estaba creando “aproximadamente una imagen sexualizada no consensuada por minuto”.
Las acciones del chatbot provocaron la acción de múltiples partes interesadas, incluida la Unión Europea, que dijo que está monitoreando las medidas que X está tomando para evitar la creación de contenido de imagen inapropiado por parte de Grok. El miércoles, el fiscal normal de California, Rob Bonta, anunció que abriría una investigación sobre xAI y Grok.
Tras las críticas, xAI dijo en un comunicado de seguridad actualizar publicó el jueves en X que estaba promulgando medidas para evitar que los usuarios crearan fotografías de personas con ropa mínima usando Grok.
