La gobernanza de agentes empieza por lo que el agente no puede hacer

En los consejos aparece la misma pregunta: ¿qué ocurre si el agente se equivoca? La calidad del modelo no responde a esa cuestión. La respuesta se diseña con permisos, límites, trazabilidad y escalado a una persona antes de que el agente actúe.

La pregunta del consejo merece una respuesta de ingeniería

Los agentes se equivocan, igual que empleados, proveedores y directivos. Las empresas usan controles para limitar el alcance de un error y detectarlo. Con agentes, una parte de esos controles puede codificarse y aplicarse en cada ejecución.

La revisión debe responder tres preguntas: ¿qué puede tocar el agente?, ¿hasta dónde puede llegar sin aprobación?, ¿cómo se reconstruye lo que hizo y por qué? Cada una corresponde a un control de diseño.

Permisos: trata al agente como a un empleado nuevo

A un empleado recién llegado no le das poderes notariales y la contraseña del banco. Le das acceso a lo que necesita para su función, y vas ampliando cuando demuestra criterio. Con un agente, ese mismo principio se aplica de forma literal y verificable: credenciales propias, acotadas al proceso que opera, con acceso de lectura donde baste leer y de escritura solo donde escribir sea su trabajo.

Conectar el agente con una credencial existente suele ser más rápido que diseñar una propia. Sin embargo, un agente que tramita pedidos no necesita ver nóminas y uno que concilia facturas no necesita emitir pagos. Cada permiso adicional aumenta el alcance posible de un error sin mejorar la función asignada.

Límites de actuación: la frontera de lo irreversible

Los permisos dicen qué puede tocar el agente. Los límites dicen hasta dónde puede llegar solo. Mi criterio para trazarlos es la reversibilidad: lo que se puede deshacer barato puede automatizarse pronto. Lo que no se puede deshacer se escala a un humano, siempre, por diseño.

Preparar un borrador es reversible. Enviar una respuesta o emitir un pago tiene más consecuencias. Sobre esa escala se fijan importes que requieren escalado, categorías de cliente con firma humana obligatoria y acciones prohibidas. Son los mismos tipos de límites que una empresa aplica a los poderes de sus directivos.

Trazabilidad: cada acción con su porqué

Cuando algo sale mal en un proceso humano, la reconstrucción suele depender de correos y recuerdos. Un sistema con agentes debe registrar cada acción, su contexto, la información consultada, la regla aplicada y el motivo de la decisión. Así puede auditarse cada caso.

El registro permite localizar la decisión y corregir la regla o el límite. También permite responder a un auditor o regulador con los hechos del caso. Si el proceso manual no tenía un registro equivalente, el sistema puede aumentar la trazabilidad disponible.

Humano en el circuito por diseño, no como parche

El escalado a una persona forma parte de la especificación desde el primer día. El agente opera casos dentro de sus límites y escala importes altos, categorías reservadas o excepciones no cubiertas. La persona revisa los casos donde la decisión cambia el resultado.

La frontera entre lo que el agente resuelve solo y lo que escala no es fija. Se mueve con evidencia: cuando meses de registro demuestran que cierta clase de casos se resuelve bien, el límite se amplía; si aparece una clase nueva de error, se contrae. La autonomía se gana con historial, exactamente igual que con las personas.

Por qué la gobernanza debe adaptarse a la operación

En un producto cerrado, la gobernanza se limita a lo que el proveedor expone: opciones de configuración, roles predefinidos y registros con un nivel de detalle fijado por él. La política de riesgo del cliente debe expresarse con esos controles. Si falta un dato en el registro, el cliente no puede reconstruirlo por su cuenta.

En una operación gestionada, los permisos, los umbrales y el formato del registro se definen con el cliente y se integran con su circuito de aprobaciones. La gobernanza pasa a formar parte del modelo operativo codificado dentro de Arkatai. Nuestro equipo mantiene el sistema. El dueño del proceso conserva la autoridad para fijar los límites. Esta diferencia debe incluirse tanto en la fase custom como en la decisión de comprar, construir o contratar el resultado.

Un agente sin límites no puede auditarse ni ampliar su autonomía de forma controlada. Los límites permiten delegar volumen dentro de una operación y ajustar el alcance según el historial observado.

Preguntas que me hacen los comités

¿Quién responde si el agente comete un error con un cliente?

La empresa, igual que responde por el error de un empleado o de un proceso mal diseñado. El agente no es un sujeto al que trasladar la responsabilidad. Precisamente por eso el diseño de límites y trazabilidad no es opcional. Es lo que te permite demostrar diligencia, acotar el daño y corregir la causa.

¿Cuánta autonomía es razonable al principio?

Al principio puede trabajar en lectura o propuesta para las acciones con consecuencias externas. La autonomía se amplía por clases de casos cuando el registro muestra una tasa de error aceptable. Cada permiso tiene una fecha y una condición de revisión.

¿Todo esto no encarece y retrasa el proyecto?

Añade trabajo al inicio: identidades, permisos, registros, umbrales y escalados. Incorporarlo después de un incidente exige cambiar una arquitectura que ya opera. Diseñarlo desde el principio permite ampliar el alcance sin rehacer esos controles.

¿Cómo audito lo que hace un agente si yo no soy técnico?

Igual que auditas cuentas sin ser contable, exigiendo el registro y muestreándolo. Pide casos concretos reconstruidos de punta a punta, qué miró el agente, qué regla aplicó, quién revisó los escalados. Si tu proveedor no puede enseñarte eso en un caso cualquiera de la semana pasada, no tienes un problema de auditoría, sino de sistema.