Siga ZDNET: Agréganos como fuente preferida en Google.
Conclusiones clave de ZDNET
- Las implementaciones de agentes difieren de los lanzamientos de software program tradicionales.
- La gobernanza no puede ser una ocurrencia tardía con los agentes.
- ‘AgentOps’ ahora entra en escena.
El entusiasmo por los agentes de IA puede parecer exagerado, pero recuerde: se necesita trabajo y planificación sobre el terreno para que estas herramientas sean productivas. Las acciones de alto nivel incluyen dar libertad a los agentes, pero no demasiada, y al mismo tiempo repensar las medidas tradicionales de retorno de la inversión.
Además: 3 formas en que los agentes de IA harán que su trabajo sea irreconocible en los próximos años
Según Kristin Burnham, el desarrollo y la gestión eficaces de la IA requieren tomar decisiones informadas en materia de management, inversión, gobernanza y diseño. escribiendo en Revisión de gestión de MIT Sloan. Al revisar una investigación reciente realizada por Sloan y Boston Consulting Group, cita las “tensiones” de las que los desarrolladores y defensores de agentes de IA deben tener en cuenta:
- Restringir demasiado los sistemas agentes limita su efectividad, mientras que otorgar demasiada libertad puede introducir imprevisibilidad.
- La IA agente obliga a las organizaciones a repensar cómo evalúan los costos, los plazos y el retorno de la inversión.
- Las organizaciones deben decidir si modernizar rápidamente la IA agente en los flujos de trabajo existentes o tomarse el tiempo para reinventar esos flujos de trabajo por completo.
Además: Se buscan vibraciones forenses y otros 10 nuevos puestos de trabajo que la IA podría crear
En toda la industria, existe acuerdo en que los agentes requieren nuevas consideraciones más allá de las que nos hemos acostumbrado en el desarrollo de software program tradicional. En el proceso, se están aprendiendo nuevas lecciones. Los líderes de la industria compartieron algunas de sus propias lecciones con ZDNET a medida que avanzaban hacia un futuro de IA agente.
1. La gobernanza importa… y mucho
“La confianza no es precisión”, dijo Nik Kale, ingeniero principal de Cisco, quien dirigió un equipo que entregó agentes para brindar orientación técnica de nivel experto a más de 100.000 usuarios. Las primeras versiones de los agentes “podían responder con confianza pero de forma incorrecta, lo que requirió que invirtiéramos mucho en fundamentar las respuestas a través de la recuperación y el conocimiento estructurado”.
Una lección importante aprendida fue que “la gobernanza no se puede modernizar”, añadió Kale. “Cuando la supervisión y los controles de políticas se agregan tarde, los sistemas a menudo carecen de los ganchos arquitectónicos para respaldarlos, lo que obliga a pausas o rediseños dolorosos”.
Además: 8 formas de hacer que la IA responsable forme parte del ADN de su empresa
A largo plazo, la confianza se acelera, afirmó Kale. “Una vez que los sistemas funcionan bien, el escrutinio humano disminuye. Ahí es cuando pueden surgir cambios de alcance y autonomía no intencionada si los límites no son explícitos”.
Kale insta a los defensores de los agentes de IA a “otorgar autonomía en proporción a la reversibilidad, no a la confianza del modelo. Las acciones irreversibles en múltiples dominios siempre deben tener supervisión humana, independientemente de cuán seguro parezca el sistema”. La observabilidad también es clave, afirmó Kale. “Poder ver cómo se tomó una decisión es tan importante como la decisión misma”.
2. Empiece por algo estrecho
Con los agentes, “comenzamos intencionalmente con un enfoque limitado”, dijo Tolga Tarhan, director ejecutivo de Atomic Gravity. “La mayoría de los agentes que implementamos están enfocados a un único dominio con barreras de seguridad claras y resultados mensurables. Podría ser un copiloto de ingeniería, un asistente de operaciones o un agente que sintetiza conjuntos de datos complejos para ejecutivos”.
3. Garantizar la calidad de los datos
“La IA funciona bien cuando tiene datos de calidad debajo”, dijo Oleg Danyliuk, director ejecutivo de Duanex, una agencia de advertising que creó un agente para automatizar la validación de los clientes potenciales de los visitantes de su sitio. “En nuestro ejemplo, para entender si el cliente potencial es interesante para nosotros, necesitamos obtener tantos datos como podamos, y lo más complejo es obtener los datos de la crimson social, ya que en su mayoría no es accesible para raspar. Por eso tuvimos que implementar varias soluciones y obtener sólo la parte pública de los datos”.
Además: No, la IA no te está robando tu trabajo tecnológico, solo lo está transformando.
“La calidad de los datos es la cuestión número uno”, coincidió Tarhan. “Los modelos sólo funcionan tan bien como la información que reciben”.
4. Empiece por el problema, no por la tecnología.
“Defina el éxito desde el principio”, dijo Tarhan. “Instrumente todo. Mantenga a los humanos informados más tiempo del que se considera necesario. E invierta temprano en observabilidad y gobernanza. Cuando se hace bien, los agentes de IA pueden ser transformadores. Cuando se apresuran, se convierten en demostraciones costosas. La diferencia es la disciplina”. El equipo de Tarhan se esfuerza por tratar a los agentes con hojas de ruta, ciclos de retroalimentación e iteración continua, y “no como experimentos científicos”.
5. Considere las metodologías ‘AgentOps’
“Los agentes de IA no tienen éxito únicamente con la capacidad del modelo”, dijo Martin Bufi, director principal de investigación de Information-Tech Analysis Group. Su equipo diseñó y desarrolló sistemas de agentes de IA para funciones a nivel empresarial, incluido el análisis financiero, la validación del cumplimiento y el procesamiento de documentos. Lo que ayudó a que estos proyectos tuvieran éxito fue el empleo de “AgentOps” (operaciones de agentes), que se centra en gestionar todo el ciclo de vida del agente.
5. Mantenga a los agentes concentrados
En lugar de crear agentes monolíticos que hagan todo, Bufi recomendó “emplear múltiples agentes especializados para funciones como análisis, validación, enrutamiento o comunicación”. Además, el equipo de Bufi buscó que estos equipos de agentes reflejaran cómo operan los equipos humanos, “a través de patrones de orquestación explícitos en forma de centro y radio para trabajo paralelo, o canales secuenciales donde la intención y la confianza debían establecerse antes de una acción más profunda”.
7. Mantenga el contexto en línea y sea adaptable
Incluso para un agente de un solo usuario relativamente limitado, “la gestión del contexto es un obstáculo importante y puede generar problemas importantes si no se maneja correctamente”, dijo Sean Falconer, jefe de IA en Confluent, reflexionando sobre el agente private que creó. “A medida que los agentes recorren herramientas e interacciones iterativas, la ventana de contexto se llena rápidamente. Si bien los puntos de datos más antiguos pueden perder relevancia, los modelos no siempre priorizan implícitamente la información correcta”.
Además: ¿podrías ser un formador de datos de IA? Cómo prepararlo y cuánto paga.
Para mantener una producción consistente y de alta calidad, los desarrolladores “dedican una cantidad desproporcionada de tiempo a optimizar cómo podan, resumen e inyectan contexto para que el agente no pierda el hilo del objetivo unique”, explicó Falconer. “Ingeniero para la adaptabilidad desde el primer día. “Asegúrese de que sus inversiones en IA sean flexibles y estén adecuadamente abstraídas. Evite la dependencia de un proveedor o modelo para poder girar rápidamente a medida que llegue la próxima ola de innovación”.
