A estas alturas, muchas empresas han implementado algún tipo de RAG. La promesa es seductora: indexe sus archivos PDF, conecte un LLM y democratice instantáneamente su conocimiento corporativo.
Pero para las industrias que dependen de la ingeniería pesada, la realidad ha sido decepcionante. Los ingenieros hacen preguntas específicas sobre infraestructura y el robotic alucina.
El fracaso no está en el LLM. El fallo está en el preprocesamiento.
Los canales RAG estándar tratan los documentos como cadenas planas de texto. Utilizan “fragmentos de tamaño fijo” (cortar un documento cada 500 caracteres). Esto funciona para la prosa, pero destruye la lógica de los manuales técnicos. Divide las tablas por la mitad, separa los títulos de las imágenes e ignora la jerarquía visible de la página.
IMejorar la confiabilidad del RAG no se trata de comprar un modelo más grande; se trata de solucionar el problema de los “datos oscuros” mediante fragmentación semántica y textualización multimodal.
Aquí está el marco arquitectónico para construir un sistema RAG que realmente pueda leer un handbook.
La falacia de la fragmentación de tamaño fijo
En un tutorial estándar de Python RAG, se divide el texto por número de caracteres. En un PDF empresarial, esto es desastroso.
Si una tabla de especificaciones de seguridad abarca 1000 tokens y el tamaño de su fragmento es 500, acaba de dividir el encabezado “límite de voltaje” del valor “240V”. La base de datos de vectores los almacena por separado. Cuando un usuario pregunta “¿Cuál es el límite de voltaje?”, el sistema de recuperación encuentra el encabezado pero no el valor. El LLM, obligado a responder, a menudo adivina.
La solución: fragmentación semántica
El primer paso para solucionar el RAG de producción es abandonar el recuento de caracteres arbitrarios en favor de la inteligencia de documentos.
Al utilizar herramientas de análisis que tienen en cuenta el diseño (como Azure Doc Intelligence), podemos segmentar datos según la estructura del documento, como capítulos, secciones y párrafos, en lugar del recuento de tokens.
-
Cohesión lógica: Una sección que describe una pieza específica de una máquina se mantiene como un único vector, incluso si varía en longitud.
-
Conservación de la mesa: El analizador identifica un límite de tabla y fuerza toda la cuadrícula en un solo fragmento, preservando las relaciones fila-columna que son vitales para una recuperación precisa.
En nuestros puntos de referencia cualitativos internos, pasar de la fragmentación fija a la semántica mejoró significativamente la precisión de la recuperación de datos tabulares, deteniendo efectivamente la fragmentación de las especificaciones técnicas.
Desbloquear datos visuales oscuros
El segundo modo de falla del RAG empresarial es la ceguera. Una enorme cantidad de propiedad intelectual corporativa existe no en texto, sino en diagramas de flujo, esquemas y diagramas de arquitectura de sistemas. Los modelos de incrustación estándar (como text-embedding-3-small) no pueden “ver” estas imágenes. Se omiten durante la indexación.
Si su respuesta se encuentra en un diagrama de flujo, su sistema RAG dirá: “No lo sé”.
La solución: textualización multimodal
Para que se puedan realizar búsquedas en los diagramas, implementamos un paso de preprocesamiento multimodal utilizando modelos con capacidad de visión (específicamente GPT-4o) antes de que los datos lleguen al almacén de vectores.
-
Extracción de OCR: El reconocimiento óptico de caracteres de alta precisión extrae etiquetas de texto desde dentro de la imagen.
-
Subtítulos generativos: El modelo de visión analiza la imagen y genera una descripción detallada en lenguaje pure (“Un diagrama de flujo que muestra que el proceso A conduce al proceso B si la temperatura supera los 50 grados”).
-
Incrustación híbrida: Esta descripción generada se incrusta y almacena como metadatos vinculados a la imagen authentic.
Ahora, cuando un usuario busca “flujo de proceso de temperatura”, la búsqueda de vectores coincide con el descripciónaunque la fuente authentic period un archivo PNG.
La capa de confianza: interfaz de usuario basada en evidencia
Para la adopción empresarial, la precisión es sólo la mitad de la batalla. La otra mitad es verificabilidad.
En una interfaz RAG estándar, el chatbot da una respuesta de texto y cita un nombre de archivo. Esto obliga al usuario a descargar el PDF y buscar la página para verificar el reclamo. Para consultas de alto riesgo (“¿Es este químico inflamable?”), los usuarios simplemente no confiarán en el robotic.
El la arquitectura debe implementar la citación visible. Debido a que preservamos el vínculo entre el fragmento de texto y su imagen principal durante la fase de preprocesamiento, la interfaz de usuario puede mostrar el gráfico o tabla exacta utilizada para generar la respuesta junto con la respuesta de texto.
Este mecanismo de “muestra tu trabajo” permite a los humanos verificar el razonamiento de la IA al instante, cerrando la brecha de confianza que acaba con tantos proyectos internos de IA.
Preparación para el futuro: incorporaciones multimodales nativas
Si bien el método de “textualización” (convertir imágenes en descripciones de texto) es la solución práctica hoy en día, la arquitectura está evolucionando rápidamente.
Ya estamos viendo el surgimiento de incorporaciones multimodales nativas (como el Embed 4 de Cohere). Estos modelos pueden asignar texto e imágenes al mismo espacio vectorial sin el paso intermedio de los subtítulos. Si bien actualmente utilizamos una canalización de varias etapas para lograr el máximo management, el futuro de la infraestructura de datos probablemente implicará una vectorización “de un extremo a otro”, donde el diseño de una página se incrusta directamente.
Además, como LLM de contexto largo volverse rentable, la necesidad de fragmentación puede disminuir. Es posible que pronto pasemos manuales completos a la ventana contextual. Sin embargo, hasta que la latencia y el costo de las llamadas de millones de tokens disminuyan significativamente, el preprocesamiento semántico seguirá siendo la estrategia económicamente más viable para los sistemas en tiempo actual.
Conclusión
La diferencia entre una demostración de RAG y un sistema de producción es cómo maneja la confusa realidad de los datos empresariales.
Deja de tratar tus documentos como simples cadenas de texto. Si quieres que tu IA comprenda tu negocio, debes respetar la estructura de tus documentos. Al implementar la fragmentación semántica y desbloquear los datos visuales dentro de sus gráficos, transforma su sistema RAG de un “buscador de palabras clave” a un verdadero “asistente de conocimiento”.
Dippu Kumar Singh es arquitecto de inteligencia synthetic e ingeniero de datos.
¡Bienvenido a la comunidad VentureBeat!
Nuestro programa de publicaciones invitadas es donde los expertos técnicos comparten conocimientos y brindan análisis profundos neutrales y no adquiridos sobre inteligencia synthetic, infraestructura de datos, ciberseguridad y otras tecnologías de vanguardia que dan forma al futuro de las empresas.
Leer más de nuestro programa de publicaciones de invitados y consulte nuestro pautas ¡Si estás interesado en contribuir con un artículo propio!
