El pasado 16 de julio, las oficinas de Quantion, en el corazón de Barcelona, albergaron un nuevo encuentro de la comunidad Innovation Tech Leaders, que reunió a representantes de empresas como Beyond, Bonpreu, Comsa Corporación, Consorci de la Zona Franca y RBA.  

La sesión fue conducida por Rafael Giménez, Data & AI Lead y Luis Tuzón, Data Tech Lead, quienes abordaron los retos tecnológicos asociados a la Agentic AI,  y al desarrollo de agentes robustos y fiables que sean capaces no solo de responder a preguntas, sino de actuar de forma autónoma, contextualizada y colaborativa. 

Ambos ponentes invitaron a reflexionar sobre una idea clave: ya no se trata de si la IA puede hacer cosas, sino de cómo se puede aplicar de forma efectiva, fiable y controlada en contextos reales.  

El pulso y los retos tecnológicos de la Agentic AI 

La Agentic AI ha evolucionado hasta convertirse en un motor clave de transformación empresarial, impulsada por los grandes modelos de lenguaje (LLMs) capaces de ejecutar tareas complejas y colaborar en sistemas multiagente. 

“Estamos en el tercer año de la IA generativa real. La que ya no solo predice, sino que actúa”, afirmó Tuzón al inicio de la sesión. Esta nueva generación de inteligencia artificial generativa, conocida como Agentic AI, se distingue por la capacidad de los sistemas para tomar decisiones, ejecutar acciones, coordinar herramientas y colaborar con otros agentes de forma autónoma y contextualizada. 

Sin embargo, esta evolución tecnológica también plantea importantes desafíos, ya que los LLM funcionan como cajas negras, lo que complica la trazabilidad y el control de las respuestas generadas. Esto hace indispensable contar con una observabilidad robusta que garantice monitorización, registro de eventos y trazabilidad en tiempo real. 

A ello se suma la naturaleza no determinista de estos modelos, que puede producir respuestas distintas ante una misma consulta. Esta característica obliga a implementar estrategias de verificación y control para asegurar la fiabilidad de los resultados y evitar la generación de información errónea o falsa. 

Construyendo la Agentic AI: arquitecturas multiagente seguras y escalables 

Para abordar estos retos, es fundamental diseñar arquitecturas que permitan que múltiples agentes colaboren de manera coordinada, eficiente y segura en entornos productivos.  

La combinación de varios  agentes permite distribuir tareas y mejora la flexibilidad, pero también exige mantener el control y la previsibilidad mediante patrones de diseño específicos. 

Durante la sesión se destacó el papel esencial de varios componentes técnicos: 

  • Servidores MCP que abstraen el contexto, la memoria y herramientas externas para facilitar la modularidad y escalabilidad.  
  • Lang Graph, encargado de orquestar los flujos de trabajo, gestionar errores y mantener la trazabilidad para asegurar un comportamiento fiable.
  • Protocolo A2A, que estandariza la comunicación entre agentes para favorecer la colaboración y resiliencia en sistemas multiagente.

 La integración de estas piezas junto con evaluaciones continuas (que utilizan golden datasets, pruebas automáticas y revisiones humanas) garantiza la calidad y robustez del sistema. 

El “human in the loop” sigue siendo fundamental para la supervisión de decisiones críticas, y participa en el proceso de entrenamiento, validación, supervisión y toma de decisiones del sistema, especialmente cuando se trata de decisiones estratégicas. 

La realidad es que ya no estamos hablando de si la IA puede hacer ciertas cosas, sino de cómo puede resolver tareas reales dentro de las empresas.

  

Retos tecnológicos clave 

Durante la sesión, se destacaron los principales desafíos que surgen al diseñar e implementar sistemas basados en agentes: 

  • Falta de trazabilidad: al ser modelos no deterministas, una misma entrada puede generar distintas respuestas. Esto complica la validación y el control. 
  • Complejidad del contexto: los agentes necesitan recibir información estructurada y relevante para actuar con precisión. Surge así el enfoque de context engineering. 
  • Escalabilidad y consumo: los sistemas multiagente pueden multiplicar por 10 o más el uso de tokens frente a modelos tradicionales, lo que implica un alto impacto económico. 
  • Fragmentación del ecosistema: la proliferación de agentes en diferentes plataformas (cloud, CRM, etc.) exige una gobernanza clara para evitar duplicidades y mantener el control técnico. 

Optimizando el coste de operación 

Otro punto más destacado de la sesión fue el impacto económico de estos sistemas, ya que el uso intensivo de tokens por parte de los agentes puede disparar los costes si no se gestiona adecuadamente. 

Para minimizar este impacto, se propuso algunas soluciones, como, seleccionar modelos más ligeros para tareas simples o aplicar filtros previos con modelos más pequeños antes de activar modelos complejos entre otros. 

Por otro lado, aunque la tecnología ha avanzado, el éxito de la IA sigue dependiendo de los datos, ya que sin una buena calidad, gobierno y trazabilidad de los datos, el sistema puede generar información incorrecta o incluso peligrosa. 

Además, con la aparición de múltiples agentes en diferentes plataformas, es fundamental establecer un marco de gobernanza centralizada, que permita orquestar, auditar y controlar toda la infraestructura sin perder eficiencia ni seguridad. 

La Agentic AI ya no es un concepto de futuro, sino una realidad que está transformando la forma en que las empresas diseñan procesos, toman decisiones y construyen soluciones inteligentes. En este contexto,  las organizaciones que apuesten por esta evolución tecnológica, con visión estratégica y una base sólida de conocimiento, serán las que marquen el paso en la próxima generación de innovación digital. 

¿Quieres ser parte del cambio? Únete a los próximos encuentros de la comunidad Innovation Tech Leaders. Mientras tanto, te invitamos a revivir lo mejor de nuestro último encuentro: Agentes IA en el MWC 2025: Tendencias e impacto en los negocios