La gobernanza de agentes de IA es el conjunto de métricas, permisos, límites y mecanismos de intervención que permite operar agentes empresariales con control. Cuando un agente responde clientes, consulta información o modifica sistemas, ya no basta con comprobar que está activo: hay que medir si resuelve bien, cuánto cuesta y cuándo debe detenerse.
El 27 de octubre de 2026, Salesforce anunció nuevas capacidades de Agent Fabric para evaluación continua, límites de gasto e intervención automática. La señal es clara: crear agentes es cada vez más accesible; operarlos de forma confiable es el nuevo reto.
Crear un agente ya no es el final del proyecto
Durante la primera ola de adopción, la pregunta empresarial era: “¿qué puede automatizar un agente?”. En producción aparecen preguntas más exigentes:
- ¿completa correctamente cada tarea?
- ¿elige la herramienta adecuada?
- ¿cuánto cuesta cada resultado?
- ¿qué ocurre si cambia una API o una fuente de datos?
- ¿cuándo debe intervenir una persona?
- ¿quién puede limitar o detener al agente?
Estas preguntas separan una demostración de IA de una operación real.
Salesforce pone el foco en evaluación y control
Salesforce presentó Agent Evals, API Evals y controles avanzados de costos para Agent Fabric. Según su anuncio, las evaluaciones pueden revisar agentes, modelos y servidores MCP frente a umbrales definidos. Cuando la calidad cae, una política puede alertar, solicitar aprobación o activar una intervención. Los controles financieros permiten observar el gasto y establecer límites.
Algunas funciones anunciadas están en beta o tienen disponibilidad posterior. Por eso conviene distinguir la dirección tecnológica de la disponibilidad concreta en cada plataforma.
El problema de los agentes que fallan en silencio
Una automatización tradicional suele fallar de forma visible: una API devuelve un error o un proceso se detiene. Un agente puede completar la tarea y aun así producir un resultado incorrecto, usar información desactualizada o ejecutar una secuencia válida que no corresponde con la política del negocio.
La observabilidad de IA debe medir resultados, no solo disponibilidad técnica.
Qué debería medir una empresa
- Calidad: porcentaje de tareas completadas correctamente.
- Escalamiento: casos que requieren intervención humana.
- Costo: consumo por tarea, conversación o resultado.
- Tiempo: duración frente al proceso manual anterior.
- Errores: categorías de fallas y frecuencia.
- Cumplimiento: respeto de permisos, reglas y aprobaciones.
Esto conecta con una idea central de Ainoa: la IA debe construirse alrededor de un proceso medible. Sin una definición previa de éxito, será difícil demostrar valor después.
MCP conecta herramientas, pero no reemplaza la gobernanza
Model Context Protocol estandariza cómo los agentes acceden a herramientas, datos y sistemas. Sin embargo, conexión no significa acceso ilimitado. La empresa debe definir qué puede leer cada agente, qué puede modificar, qué acciones requieren confirmación y qué actividades necesitan trazabilidad.
MCP ayuda a conectar. La gobernanza decide cómo, cuándo y bajo qué límites se usa esa conexión.
Cómo lo aplica Ainoa
Ainoa desarrolla agentes inteligentes a la medida de la operación real. El diseño incluye integraciones, permisos, reglas de negocio, aprobaciones, excepciones, métricas, registros y escalamiento a personas.
Un agente comercial puede consultar inventario y preparar un enlace de pago, mientras los descuentos o devoluciones sensibles requieren autorización. Un agente interno puede generar reportes y actualizar estados, pero reservar cambios críticos para una persona.
Cuatro controles antes de escalar agentes
- Definir un objetivo medible.
- Documentar acciones permitidas y prohibidas.
- Establecer métricas y umbrales operativos.
- Diseñar intervención, aprobación y apagado seguro.
Preguntas frecuentes
¿Qué es la gobernanza de agentes de IA?
Es el marco de permisos, métricas, políticas, auditoría y controles que limita cómo opera un agente y permite intervenir cuando se desvía.
¿Qué diferencia hay entre observabilidad y gobernanza?
La observabilidad muestra qué está ocurriendo. La gobernanza define qué está permitido y qué respuesta debe activarse.
¿MCP controla los permisos de negocio?
MCP facilita conexiones estandarizadas, pero cada organización debe implementar autenticación, autorización, aprobaciones y registros acordes con su operación.
De automatizar a operar con responsabilidad
La próxima etapa no será tener más agentes, sino agentes capaces de actuar con visibilidad, responsabilidad y rendimiento medible. La pregunta cambia de “¿podemos automatizar esto?” a “¿podemos automatizarlo y seguir teniendo control?”.
Si tu empresa necesita conectar agentes con sistemas reales sin perder trazabilidad, habla con Ainoa para diseñar una operación segura y medible.