En la carrera por llevar la inteligencia synthetic a las empresas, una startup pequeña pero bien financiada está haciendo una afirmación audaz: el problema que frena la adopción de la IA en industrias complejas nunca han sido los modelos en sí.
IA contextualuna empresa de dos años y medio respaldada por inversores como Expediciones de Bezos y Bain Capital Venturesel lunes dio a conocer Compositor agenteuna plataforma diseñada para ayudar a los ingenieros de la industria aeroespacial, de fabricación de semiconductores y otros campos técnicamente exigentes a crear agentes de IA que puedan automatizar el tipo de trabajo intensivo en conocimiento que durante mucho tiempo se ha resistido a la automatización.
El anuncio llega en un momento essential para la IA empresarial. Cuatro años después de que ChatGPT desató un frenesí de iniciativas corporativas de IA, muchas organizaciones siguen estancadas en programas piloto, luchando por llevar proyectos experimentales a producción a gran escala. Los directores financieros y líderes de unidades de negocios están cada vez más impacientes con los esfuerzos internos que han consumido millones de dólares pero han generado retornos limitados.
Douwe Kieladirector ejecutivo de Contextual AI, cree que la industria se ha centrado en el cuello de botella equivocado. “El modelo está casi mercantilizado en este momento”, dijo Kiela en una entrevista con VentureBeat. “El cuello de botella es el contexto: ¿puede la IA realmente acceder a sus documentos, especificaciones y conocimiento institucional patentados? Ese es el problema que resolvemos”.
Por qué la IA empresarial sigue fallando y qué se suponía que solucionaría la generación con recuperación aumentada
Para entender lo que IA contextual Lo que está intentando, ayuda a comprender un concepto que se ha vuelto central para el desarrollo moderno de la IA: la generación con recuperación aumentada, o TRAPO.
Cuando modelos de lenguaje grandes como los de AbiertoAI, Googleo antrópico Para generar respuestas, se basan en los conocimientos adquiridos durante la formación. Pero ese conocimiento tiene una fecha límite y no puede incluir los documentos de propiedad, las especificaciones de ingeniería y el conocimiento institucional que constituyen el alma de la mayoría de las empresas.
Los sistemas RAG intentan resolver esto recuperando documentos relevantes de las propias bases de datos de una empresa y alimentándolos al modelo junto con la pregunta del usuario. Luego, el modelo puede basar su respuesta en datos reales de la empresa en lugar de depender únicamente de su capacitación.
Kiela ayudó a ser pionero en este enfoque durante su época como científico investigador en Investigación de IA de Facebook y más tarde como jefe de investigación en abrazando la carala influyente empresa de inteligencia synthetic de código abierto. Tiene un doctorado. de Cambridge y se desempeña como profesor adjunto de sistemas simbólicos en la Universidad de Stanford.
Pero los primeros sistemas RAG, reconoce Kiela, eran toscos.
“Los primeros RAG eran bastante toscos: toma un perro perdiguero disponible en el mercado, conéctalo a un generador y espera lo mejor”, dijo. “Los errores se agravaron a través de la tubería. Las alucinaciones eran comunes porque el generador no estaba entrenado para permanecer conectado a tierra”.
Cuando Kiela fundó IA contextual En junio de 2023, se propuso resolver estos problemas de forma sistemática. La empresa desarrolló lo que llama una “capa de contexto unificada”: un conjunto de herramientas que se ubican entre los datos de una empresa y sus modelos de IA, garantizando que la información correcta llegue al modelo en el formato correcto y en el momento adecuado.
El enfoque ha ganado reconocimiento. Según un estudio de caso de Google Cloud, la IA contextual logró el mayor rendimiento en el punto de referencia FACTS de Google para obtener resultados sólidos y resistentes a las alucinaciones. La compañía afinó los modelos Llama de código abierto de Meta en la plataforma Vertex AI de Google Cloud, enfocándose específicamente en reducir la tendencia de los sistemas de inteligencia synthetic a inventar información.
Inside Agent Composer, la plataforma que promete convertir complejos flujos de trabajo de ingeniería en minutos de trabajo
Compositor agente amplía la plataforma existente de Contextual AI con capacidades de orquestación: la capacidad de coordinar múltiples herramientas de AI en múltiples pasos para completar flujos de trabajo complejos.
La plataforma ofrece tres formas de crear agentes de IA. Los usuarios pueden comenzar con agentes prediseñados diseñados para flujos de trabajo técnicos comunes, como análisis de causa raíz o verificación de cumplimiento. Pueden describir un flujo de trabajo en lenguaje pure y permitir que el sistema genere automáticamente una arquitectura de agente funcional. O pueden crear desde cero utilizando una interfaz visible de arrastrar y soltar que no requiere codificación.
Lo que distingue a Agent Composer de los enfoques de la competencia, cube la compañía, es su arquitectura híbrida. Los equipos pueden combinar reglas estrictas y deterministas para pasos de alto riesgo (verificaciones de cumplimiento, validación de datos, puertas de aprobación) con razonamiento dinámico para análisis exploratorios.
“Para flujos de trabajo altamente críticos, los usuarios pueden elegir pasos completamente deterministas para controlar el comportamiento de los agentes y evitar la incertidumbre”, dijo Kiela.
La plataforma también incluye lo que la empresa llama “optimización del agente con un solo clic“, que toma los comentarios de los usuarios y ajusta automáticamente el desempeño del agente. Cada paso del proceso de razonamiento de un agente puede ser auditado, y las respuestas vienen con citas a nivel de oración que muestran exactamente dónde se originó la información en los documentos fuente.
De ocho horas a 20 minutos: lo que dicen los primeros clientes sobre el rendimiento de la plataforma en el mundo actual
IA contextual cube que los primeros clientes han informado de mejoras significativas en la eficiencia, aunque la empresa reconoce que estas cifras provienen de informes propios de los clientes y no de una verificación independiente.
“Estos provienen directamente de evaluaciones de clientes, que son aproximaciones a flujos de trabajo del mundo actual”, dijo Kiela. “Las cifras son autoinformadas por nuestros clientes, ya que describen el escenario antes y después de la adopción de la IA contextual”.
Los resultados anunciados son, no obstante, sorprendentes. Un fabricante avanzado redujo el análisis de la causa raíz de ocho horas a 20 minutos automatizando el análisis de datos del sensor y la correlación de registros. Una empresa de productos químicos especializados redujo la investigación de productos de horas a minutos utilizando agentes que buscan patentes y bases de datos regulatorias. Un fabricante de equipos de prueba ahora genera códigos de prueba en minutos en lugar de días.
Keith Schaub, vicepresidente de tecnología y estrategia de más avanzadouna empresa de equipos de prueba de semiconductores, ofreció su respaldo. “La IA contextual ha sido una parte importante de nuestros esfuerzos de transformación de la IA”, dijo Schaub. “La tecnología se ha implementado en varios equipos de Advantest y en clientes finales selectos, lo que ahorra un tiempo significativo en tareas que van desde la generación de códigos de prueba hasta los flujos de trabajo de ingeniería del cliente”.
Otros clientes de la empresa incluyen Qualcommel gigante de los semiconductores; BarcoBobun proveedor de logística con tecnología que afirma haber logrado una resolución de problemas 60 veces más rápida; y NVIDIAel fabricante de chips cuyos procesadores gráficos impulsan la mayoría de los sistemas de inteligencia synthetic.
El eterno dilema empresarial: ¿deberían las empresas construir sus propios sistemas de IA o comprarlos ya disponibles?
Quizás el mayor desafío IA contextual Lo que enfrenta no son los productos de la competencia sino el instinto entre las organizaciones de ingeniería de construir sus propias soluciones.
“La mayor objeción es: ‘lo construiremos nosotros mismos'”, reconoció Kiela. “Algunos equipos lo intentan. Parece emocionante hacerlo, pero es excepcionalmente difícil hacerlo bien a escala. Muchos de nuestros clientes comenzaron con el bricolaje y se encontraron todavía depurando canales de recuperación en lugar de resolver problemas reales entre 12 y 18 meses después”.
La alternativa (soluciones listas para usar) presenta sus propios problemas, argumenta la empresa. Estas herramientas se implementan rápidamente pero a menudo resultan inflexibles y difíciles de personalizar para casos de uso específicos.
Compositor agente intenta ocupar un término medio, ofreciendo un enfoque de plataforma que combina componentes prediseñados con amplias opciones de personalización. El sistema admite modelos de OpenAI, Anthropic y Google, así como el propio Grounded Language Mannequin de Contextual AI, que fue entrenado específicamente para permanecer fiel al contenido recuperado.
Los precios comienzan en $50 por mes para uso de autoservicio, con precios empresariales personalizados para implementaciones más grandes.
“La justificación para los directores financieros es realmente aumentar la productividad y acelerar la producción con sus iniciativas de IA”, afirmó Kiela. “Cada equipo técnico está luchando por contratar los mejores talentos de ingeniería, por lo que hacer que sus equipos existentes sean más productivos es una gran prioridad en estas industrias”.
El camino por delante: coordinación entre múltiples agentes, acciones de escritura y la carrera para construir sistemas compuestos de IA
De cara al futuro, Kiela describió tres prioridades para el próximo año: automatización del flujo de trabajo con acciones de escritura reales en todos los sistemas empresariales en lugar de simplemente leer y analizar; mejor coordinación entre múltiples agentes especializados que trabajan juntos; y una especialización más rápida a través del aprendizaje automático a partir de la retroalimentación de producción.
“El efecto compuesto importa aquí”, dijo. “Cada documento que se ingiere, cada ciclo de retroalimentación que se cierra, esas mejoras se acumulan. Las empresas que construyen esta infraestructura ahora serán difíciles de detectar”.
El mercado de la IA empresarial sigue siendo tremendamente competitivo, con ofertas de los principales proveedores de nube, proveedores de software program establecidos y decenas de nuevas empresas que persiguen a los mismos clientes. Que la apuesta de la IA contextual por el contexto sobre los modelos dé sus frutos depende de si las empresas llegan a compartir la opinión de Kiela de que las guerras de modelos básicos importan menos que la infraestructura que las rodea.
Pero hay cierta ironía en el posicionamiento de la empresa. Durante años, la industria de la IA se ha obsesionado con la construcción de modelos cada vez más grandes y más poderosos, invirtiendo miles de millones en la carrera por la inteligencia synthetic basic. La IA contextual presenta un argumento más silencioso: que para la mayor parte del trabajo del mundo actual, la magia no está en el modelo. Está en saber dónde buscar.
