Gobierno de agentes de IA: qué exigir antes de dejarlos operar
Recursos · Gobierno
Gobernar agentes de IA es definir qué pueden hacer, quién aprueba, cuánto pueden gastar y cómo se audita cada ejecución. En Qurable Autopilot nada se ejecuta sin la aprobación de una persona o de una política publicada por tu equipo: cada cambio llega con su plan y su riesgo, los agentes nunca se aprueban a sí mismos y todo queda registrado.
- Agente
Propone
- Plan, riesgo e impacto
- Nunca se aprueba solo
- Persona
Aprueba
- Reglas de negocio
- Dos aprobadores si hace falta
- Plataforma
Ejecuta y registra
- Dentro de los topes
- Auditoría y costo
En producción
Los agentes de Autopilot trabajan sobre la plataforma que Qurable ya opera en producción.
- ~150 msMotor en el pagoSolo reglas aprobadas, sin IA en el camino
- ~3.000Requests por segundoSostenidas en producción
- 18MUsuarios finalesEn marcas que operan con Qurable
- ISO 27001SeguridadCertificación vigente
Lo esencial
- Un agente de IA que opera sin reglas de aprobación, topes y auditoría es un riesgo, no una herramienta.
- En Qurable Autopilot los agentes proponen y una persona decide; lo automático corre solo dentro de políticas publicadas.
- Cada ejecución deja rastro: quién la lanzó, qué leyó, qué propuso, quién decidió, qué se aplicó y cuánto costó.
Los controles
Ocho controles para operar agentes de IA con tranquilidad
Lo que pregunta un comité de riesgo antes de aprobar agentes que tocan presupuesto y clientes, y cómo lo resuelve Qurable Autopilot.
Aprobación con reglas de negocio
Cada cambio llega con su plan, su riesgo y su impacto esperado. Tú defines las reglas: por ejemplo, más de USD 10.000 requiere dos aprobadores.
Ningún agente se aprueba a sí mismo
Una persona aprueba, ajusta o rechaza. Lo automático corre solo dentro de una política que tu equipo publicó.
Roles y permisos
Propietario, administrador, operador y lector. Cada persona ve y hace solo lo que le toca, con aislamiento total entre empresas.
Entornos de prueba
Cada agente se ensaya con un ejemplo antes de producción y solo se conecta a destinos autorizados.
Topes de gasto
Topes al gasto de la IA por empresa, por agente y por ejecución; el presupuesto de beneficios y sus topes los aprueba tu equipo. Al llegar al límite, el agente se detiene y explica por qué.
Pausa cuando quieras
Detienes un agente o toda la operación cuando lo decides. El trabajo se retoma donde quedó.
Instrucciones solo de tu equipo
Los documentos, mails y datos externos se leen, pero nunca dan órdenes a un agente. Las credenciales se cifran por empresa.
Auditoría de cada ejecución
Quién la lanzó, qué leyó, qué propuso, quién decidió, qué se aplicó y cuánto costó. Lo que no se confirma no se ejecuta.
Checklist
Lo que tu comité de riesgo debería preguntar.
Úsala con cualquier proveedor de agentes de IA. La segunda columna dice qué respuesta buscar.
| Pregunta | Qué respuesta buscar |
|---|---|
| ¿Quién aprueba lo que propone un agente? | Una persona, con reglas en términos de negocio (montos, segmentos, canales) y más de un aprobador para los cambios grandes. |
| ¿Puede un agente aprobarse a sí mismo? | No. La aprobación tiene que venir de una persona o de una política publicada por el equipo. |
| ¿Hay topes de gasto? | Topes al gasto de la IA por empresa, por agente y por ejecución; el presupuesto de beneficios y sus topes los aprueba tu equipo. |
| ¿Qué pasa al llegar al tope? | El agente se detiene y explica por qué; no sigue gastando. |
| ¿Qué datos ve el modelo y dónde se alojan? | Se acuerda con tu equipo de seguridad, con aislamiento entre empresas y credenciales cifradas. |
| ¿Un documento externo puede darle órdenes? | No: el contenido externo se lee como dato, nunca como instrucción. |
| ¿Tiene certificaciones? | Como mínimo ISO 27001 vigente. |
| ¿Se puede probar antes de producción? | Entornos de prueba y conexión solo a destinos autorizados. |
| ¿Se puede frenar? | Pausa por agente o de toda la operación, sin perder el trabajo. |
| ¿La IA está en el camino del pago? | No debería: el pago tiene que decidir en milisegundos aunque un modelo cambie o falle. |
| ¿Qué queda registrado? | Quién lanzó cada ejecución, qué leyó, qué propuso, quién decidió, qué se aplicó y cuánto costó. |
| ¿Se puede probar el resultado? | Cada acción medida contra un grupo de control, con el dinero asentado en un ledger auditable. |
La diferencia
Un agente sin gobierno y uno que tu empresa controla.
La IA es la misma; lo que cambia es quién decide, cuánto puede gastar y qué queda registrado.
| Sin gobierno | Con Qurable Autopilot | |
|---|---|---|
| Quién decide | El agente aplica lo que propone | Una persona aprueba, o una política que tu equipo publicó |
| Cuánto puede gastar | Sin límite claro | Topes por empresa, agente y ejecución |
| Qué pasa en el pago | Un modelo en el camino de la transacción | Solo reglas aprobadas, en ~150 ms; si un agente falla, el pago sigue |
| Contenido externo | Un documento puede cambiar su comportamiento | Se lee, pero nunca da órdenes |
| Antes de producción | Se prueba en vivo | Entorno de prueba y destinos autorizados |
| Rastro | Logs técnicos sueltos | Auditoría completa por ejecución, con su costo |
Con Qurable
Agentes que operan, personas que deciden.
Qurable Autopilot pone a trabajar agentes de IA sobre tus métricas de negocio, con estos controles desde el primer día.
Qurable Autopilot
Agentes de IA que proponen la estrategia, la ejecutan con tu aprobación y miden cada acción contra un grupo de control.
Ver Qurable AutopilotLedger de doble entrada
Cada beneficio que aplica un agente queda asentado, con su costo y su aporte, para auditarlo.
Ver el ledgerSeguridad de la información
ISO 27001 vigente, cualquier nube y celda compartida o dedicada.
Ver la política de seguridad
Preguntas
Lo que preguntan sobre el gobierno de agentes de IA
Control, gasto, datos y auditoría.
Es el conjunto de reglas que define qué puede hacer un agente, quién aprueba lo que propone, cuánto puede gastar y cómo se audita cada ejecución. Sin eso, un agente que toca presupuesto o clientes es un riesgo.
Solo lo que permite una política que tu equipo publicó, dentro de sus topes. Todo lo demás llega como propuesta, con su plan, su riesgo y su impacto esperado, y una persona lo aprueba, ajusta o rechaza.
Con topes al gasto de la IA por empresa, por agente y por ejecución; el presupuesto de beneficios y sus topes los aprueba tu equipo. Al llegar al límite, el agente se detiene y explica por qué.
Los agentes leen documentos, mails y datos externos como información, nunca como órdenes. Además, cada agente solo se conecta a destinos autorizados.
Quién la lanzó, qué leyó, qué propuso, quién decidió, qué se aplicó y cuánto costó. Lo que no se confirma no se ejecuta.
No. Los agentes trabajan fuera de la transacción; en el pago solo corren reglas aprobadas, en ~150 ms, y si un agente falla el pago sigue.
Revisado el
Para profundizar
Seguir leyendo sobre agentes de IA.
Dónde se ven estos controles en el producto.
- ConceptoQurable Autopilot
Agentes de IA para retener clientes y vender más.
- GuíaIA en programas de lealtad
Los agentes y el motor que decide en el pago.
- GuíaChecklist para RFP
Qué pedirle a una plataforma enterprise.
Revisa estos controles con tu equipo de seguridad.
En una reunión corta te mostramos cómo se aprueba, se limita y se audita cada agente de Qurable Autopilot.