Mapa de decisiones
Separamos lo que el agente puede decidir, lo que debe escalar y lo que queda fuera de alcance. El mapa se convierte después en pruebas.
Capacidad
Agent Engineering
Diseño, desarrollo y evaluación de agentes de IA para empresas: herramientas con permisos acotados, trazas y aprobación humana cuando la decisión lo exige.
¿Cuándo merece la pena construir un agente de IA?
Cuando el trabajo exige elegir pasos, consultar varias fuentes o utilizar herramientas bajo reglas explícitas. Si una automatización determinista resuelve el proceso con menos riesgo, proponemos esa opción.
Encaje
Cuándo tiene sentido investigarlo
- La tarea cambia según el contexto y no cabe en una secuencia fija.
- El sistema debe consultar documentos, bases de datos o API antes de actuar.
- Hace falta registrar qué herramienta se usó, con qué entrada y qué resultado devolvió.
- Existen puntos de aprobación humana que no se deben omitir.
Alcance de una primera prueba
Qué necesitamos y qué entregamos
Este es el punto de partida para acordar el alcance. Datos, entregables y aceptación se concretan antes de iniciar la prueba.
Para empezar
- Un proceso con ejemplos de solicitudes resueltas, excepciones y acciones prohibidas.
- Documentación de las herramientas y un entorno de prueba sin permisos de producción.
- Una persona que pueda decidir qué operaciones exigen revisión y qué errores impiden continuar.
Entregables propuestos
- Mapa de decisiones y matriz de permisos por herramienta, usuario y recurso.
- Prototipo del flujo acotado, con aprobaciones vinculadas a los parámetros de la acción.
- Suite de evaluación con fallos de herramientas, inyección indirecta, reintentos y trazas de los casos fallidos.
- Comparación con el proceso determinista y recomendación de continuar, limitar o retirar autonomía.
Cómo se acepta la prueba
Acordamos qué tareas debe completar, qué acciones nunca puede ejecutar y cuánto trabajo de revisión resulta aceptable. Un fallo de autorización impide aceptar la prueba, aunque la tasa de tareas resueltas sea alta.
Qué queda fuera
La prueba no concede acceso general al correo, al CRM o a ficheros. Conectar producción y autorizar acciones externas requiere un alcance separado.
Trabajo
De la pregunta al sistema
Herramientas con permisos
Cada herramienta expone el mínimo acceso necesario. Validamos parámetros, respuestas, errores y límites de frecuencia antes de conectarla al agente.
Evaluación antes del despliegue
Probamos casos normales, entradas ambiguas, fallos de herramientas e intentos de saltarse instrucciones. Un buen resultado medio no compensa un fallo grave sin control.
Trazas y revisión
Guardamos las decisiones necesarias para reproducir un incidente sin convertir la observabilidad en una copia indiscriminada de datos sensibles.
Decisiones
Qué debe quedar acordado
- Agente, workflow determinista o combinación de ambos.
- Permisos por herramienta y límites de actuación.
- Casos que requieren aprobación humana.
- Suite de evaluación y criterio de parada.
Preguntas
Qué preguntamos antes de construir
- ¿Qué puede hacer el agente sin confirmación?
- ¿Cómo se prueba una llamada a herramienta que puede cambiar datos?
- ¿Qué información debe conservar una traza?
- ¿Cuándo conviene MCP y cuándo basta una API?
Referencias técnicas
Estándares y herramientas que usamos como referencia. Su inclusión no implica que todos sean necesarios en cada proyecto.
Guías relacionadas
Decisiones técnicas sobre agentes de ia
Respuestas breves, controles y criterios de parada para comprobar el encaje antes de construir.
¿Cuándo no conviene utilizar un agente de IA?
Una prueba de descarte para elegir entre agente, workflow, búsqueda asistida o automatización determinista.
Leer guía¿Cuándo utilizar MCP y cuándo integrar una API directamente?
Criterios de interoperabilidad, permisos y mantenimiento para no confundir un protocolo de herramientas con la API de negocio.
Leer guía¿Cómo definir permisos y aprobaciones para las herramientas de un agente?
Un modelo de permisos mínimos, previsualización de cambios y confirmación humana según el impacto de cada acción.
Leer guía¿Cómo limitar un ataque de prompt injection en un agente con herramientas?
Controles para tratar documentos, páginas y mensajes como datos no fiables, incluso cuando parecen instrucciones legítimas.
Leer guía¿Por qué human-in-the-loop no es poner un botón de aprobar?
La intervención humana necesita autoridad real, información suficiente y una consecuencia trazable dentro del flujo.
Leer guíaPrimera conversación