El próximo desafío de gobernanza que los directores de información (CIO) no pueden ignorar en 2026 es la aceleración de la expansión descontrolada de los agentes de inteligencia synthetic (IA). La posibilidad de una expansión incontrolada de agentes de IA en una organización recuerda los problemas de TI en la sombra que surgieron en la década de 2010, cuando los departamentos ignoraron la TI corporativa e implementaron las herramientas que necesitaban sin orientación. El fenómeno de la TI en la sombra causó problemas de seguridad y puntos ciegos en el cumplimiento.
La proliferación de agentes de IA está a punto de repetir la historia, pero con aún más riesgo y complejidad. Las capacidades de IA están aumentando y, a medida que los agentes de IA se vuelven más accesibles, se les agregan funciones fundamentales en diversas industrias. Los equipos de advertising and marketing y ventas están implementando agentes de servicio al cliente y robots de calificación de clientes potenciales. La industria financiera quiere utilizar agentes de informes automatizados, mientras que los departamentos de recursos humanos están probando asistentes de reclutamiento.
Las corporaciones han reconocido la promesa de los agentes de IA y se ven obligadas a actuar rápidamente para implementarlos y mantenerse a la vanguardia de la revolución de la IA. Esta carrera por la integración a veces se realiza sin herramientas o marcos adecuados, o sin una comprensión del impacto.
La dispersión de agentes y la evolución del papel del gobierno de TI
Los CIO deben comprender que la IA no es simplemente otra tendencia de alta tecnología, sino un momento crítico en la configuración del futuro de su organización, que requiere un replanteamiento elementary de la gobernanza de TI y la estructura organizacional.
Los agentes de IA son sistemas diferentes de la IA tradicional porque pueden actuar de forma independiente y realizar tareas sin supervisión humana constante. Son capaces de planificar e interactuar con herramientas y API para realizar su trabajo.
La dispersión de agentes de IA puede causar múltiples problemas porque los agentes de IA no están bajo la dirección del departamento de TI, sino que constituyen una infraestructura de TI en la sombra. Los riesgos se centran principalmente en la seguridad de los datos, el gasto redundante y los desafíos de integración.
Los agentes de IA están agregando varios problemas preocupantes.
Exposición jurídica y de responsabilidad en procedimientos judiciales
Más allá del cumplimiento normativo, la proliferación de agentes de IA no gestionados crea una exposición authorized directa en litigios civiles, disputas laborales, casos de protección del consumidor y acciones de cumplimiento regulatorio. A medida que los agentes de IA interactúan cada vez más con clientes, candidatos a puestos de trabajo y datos financieros, sus resultados pueden utilizarse como acciones corporativas en lugar de herramientas experimentales.
Los tribunales ya están lidiando con cuestiones de responsabilidad cuando los sistemas automatizados toman decisiones o generan representaciones. Si un agente de IA proporciona información engañosa, resultados discriminatorios, divulgaciones inadecuadas o consejos que causan daño, es poco possible que los demandantes distingan entre un empleado humano y un agente de IA no supervisado. La organización sigue siendo la parte responsable.
Esta exposición se amplifica cuando las empresas no pueden demostrar una supervisión consistente, controles documentados o registros listos para auditoría en todos los agentes implementados.
Fragmentación de marca
El director de advertising and marketing crea una voz de marca coherente para cada punto de contacto con el cliente. Puede llevar años construir una marca que sea fácilmente reconocible para el público. Si diferentes departamentos implementan agentes de IA con distintos estilos de comunicación y personalidades, esto puede llevar a la fragmentación de la marca. Cada agente debe utilizar un lenguaje y tener una personalidad que no aliene a los clientes sino que moldee la forma en que se percibe la marca. Si un agente es casual, otro formal y un tercero habla en la jerga de la industria, el resultado puede ser una marca confusa. La supervisión central es necesaria para mantener la coherencia de la marca en todos los agentes de IA.
Caos en la gobernanza de datos
Cuando se implementa un agente de IA, crea un flujo de datos. Accederá a la información del cliente y almacenará las conversaciones. La información de identificación private que recopila requerirá un manejo adecuado. Sin gobernanza, una organización puede perder visibilidad de su ecosistema de datos.
Acumulación de deuda técnica
Si varios equipos dentro de una organización lanzan sus propias plataformas de agentes, inevitablemente elegirán diferentes plataformas, API y enfoques de implementación. Esto podría dar como resultado diez marcos de agentes diferentes que tienen su propio ciclo de actualización, requisitos de seguridad y necesidades de integración. Con numerosos sistemas, la carga de mantenimiento aumentaría.
Incertidumbre regulatoria
Mientras los estados y el gobierno federal compiten por quién puede common a los agentes de IA, así como varias demandas que se abren camino en los tribunales, los CIO deben permanecer ágiles ante el cambiante panorama regulatorio y authorized. Cuando cambian las regulaciones y los fallos legales, las empresas deben comprometerse a cumplir y garantizar que los agentes de IA en toda la organización cumplan las regulaciones de manera consistente en la plataforma en la que se construyen.
Por qué la visibilidad central no es opcional
El enfoque tradicional de TI para manejar los problemas dentro de la empresa puede no ser suficiente para la proliferación de agentes de IA, ya que los chatbots de IA operan a la velocidad de la conversación y toman decisiones en tiempo actual. La TI se utiliza para crear políticas, exigir aprobaciones de flujo de trabajo y realizar auditorías. Una auditoría trimestral podría revelar un agente de inteligencia synthetic deshonesto, pero será demasiado tarde, ya que ya ha tenido miles de interacciones con clientes.
Son necesarios visibilidad continua, monitoreo en tiempo actual y gobernanza automatizada, y aquí es donde un supervisor de agentes de IA o “Agente guardián” puede ser integrado por el CIO.
El supervisor del agente de IA
Un Supervisor de agentes de IAcomo los proporcionados por Wayfound o Langcadena, actúa como un jefe de private impulsado por IA para el ecosistema de agentes de IA. El trabajo del supervisor del agente de IA es monitorear el desempeño de los demás agentes de IA y garantizar que cumplan, hacer sugerencias para mejorarlos a ellos y a sus flujos de trabajo, y brindar supervisión. El supervisor de agentes de IA puede operar continuamente en todo el panorama de agentes porque está construido sobre tecnología de IA segura y escalable, a diferencia de un supervisor humano, que solo puede monitorear un número limitado de sistemas.
Un supervisor de agentes de IA puede ayudar en las operaciones del CIO de diversas formas.
Descubrimiento e inventario completos
Un supervisor de agentes de IA está diseñado para mantener un registro en tiempo actual de los agentes de IA existentes, incluidas sus funciones, objetivos y directrices. El mapeo de agentes permite a las empresas tener una descripción basic y un registro independientes de todos los agentes de IA de las organizaciones y cómo se administran y monitorean.
Monitoreo del cumplimiento a escala
Un supervisor de agentes de IA es capaz de monitorear simultáneamente a todos los agentes internos y de atención al cliente para garantizar el cumplimiento normativo y de la empresa en todas las jurisdicciones. Si un estado aprueba y promulga nuevas regulaciones, el supervisor de agentes de IA tendrá que asegurarse de que los agentes de IA cumplan. También puede ayudar al equipo de advertising and marketing cuando hay un cambio en las pautas de la marca y evaluar si todos los clientes reciben la misma experiencia de marca.
Un supervisor de agentes de IA opera como un sistema de terceros impartial y mantiene un registro de auditoría para garantizar el cumplimiento.
Aplicación de la voz de marca
El director de advertising and marketing y el equipo de advertising and marketing pueden establecer parámetros para los supervisores de agentes de IA. Por ejemplo, los supervisores de agentes de IA pueden analizar los patrones de comunicación de todos los agentes de IA que atienden al cliente, señalar aquellos que se alejan de las pautas de marca aprobadas, identificar inconsistencias en el tono y sugerir modificaciones para que los agentes vuelvan a alinearse si se han desviado. No es necesario esperar las quejas de los clientes y se pueden tomar medidas rápidas para mantener alineados a los agentes de IA.
Informes y análisis centralizados
El supervisor del agente de IA puede mantener registros completos y listos para auditorías y generar informes amigables para el negocio para el director financiero o cualquier parte interesada. Por ejemplo, si las solicitudes legales solicitan saber cuántas interacciones con clientes involucran a agentes de IA en un trimestre y si se realizaron divulgaciones adecuadas, el supervisor de agentes de IA está diseñado para proporcionar esta información.
Seguridad y management de acceso
Otra ventaja de un supervisor de agentes de IA es que puede monitorear los datos a los que accede cada agente de IA e identificar patrones inusuales que indican un problema de seguridad o un error de configuración. Los supervisores de agentes de IA también pueden aplicar automáticamente políticas de acceso a datos y restringir los permisos de un agente de IA no autorizado si surge algún problema.
Establecer un centro de excelencia para agentes de IA (AIA CoE)
Un agente supervisor de IA puede hacer cumplir políticas, pero los humanos deben establecerlas. La creación de un equipo multifuncional debe incluir TI, authorized, cumplimiento, advertising and marketing y unidades de negocios clave, y debe definir estándares de gobernanza, procesos de aprobación y requisitos de monitoreo.
El supervisor de agentes de IA sirve como un centro de management centralizado, ayudando a los líderes de la empresa y a los miembros de la junta directiva a revisar los detalles del desempeño de los agentes de IA.
Los sistemas de IA difieren de la forma en que tradicionalmente se creaba, probaba y lanzaba el software program, ya que nunca están realmente terminados una vez lanzados. Los modelos de IA pueden variar y los usuarios pueden exigir cambios. Se requiere un monitoreo activo durante las pruebas y la producción. Los equipos técnicos y comerciales deberán colaborar para evaluar si los agentes de IA cumplen con las expectativas y decidir cómo mejorarlas. Es posible que los departamentos comerciales deban manejar el dinero y la responsabilidad de administrar los agentes de IA.
Un supervisor de agentes de IA es más que una easy herramienta tecnológica para los CIO. También implica un cambio en la forma en que opera el liderazgo de TI, en el que los CIO se convertirán en algo más que simples administradores de infraestructura, para convertirse en líderes de las colaboraciones entre humanos e IA dentro de sus empresas.
Se espera que la tecnología de IA se acelere en el futuro. Los supervisores de IA podrían eventualmente incluirse en organigramas y asistir virtualmente a reuniones de liderazgo para brindar información en tiempo actual sobre el ecosistema de agentes de IA que supervisan.
Es possible que abordar la dispersión de agentes de IA requiera cambios en la forma en que las organizaciones abordan la transformación digital, y los CIO desempeñan un papel central de coordinación para ayudar al supervisor de agentes de IA.
Digital Tendencies se asocia con contribuyentes externos. Todo el contenido de los contribuyentes es revisado por el private editorial de Digital Tendencies.
