Cómo construimos un agente de IA, en cinco pasos
Un agente es software que ejecuta acciones en sus sistemas. Lo construimos en cinco pasos, con límites fuera del modelo y una persona donde importa.
- Publicación
En esta página
Un agente es software que ejecuta acciones en sus sistemas: lee una tarea, llama a las herramientas que puede llamar y registra cada paso. Construimos cada agente en cinco pasos, dentro de un arnés de permisos y límites que están fuera del modelo, con una persona que aprueba los pasos que usted elija, para que el agente solo pueda hacer lo que usted ha fijado.
1. ¿Cuáles son los cinco pasos?
- Definir el alcance de la tarea: los pasos, los sistemas y las decisiones que conserva una persona.
- Construir las herramientas: cada herramienta que el agente puede llamar, con su propio permiso.
- Evaluar: un conjunto de evaluación a partir de sus propios casos, puntuado antes del lanzamiento.
- Lanzar por etapas: primero una persona aprueba cada acción; después, solo las excepciones.
- Vigilar y mejorar: trazas, alertas y una revisión periódica de lo que hizo mal.
2. ¿Dentro de qué límites trabaja el agente?
Los límites que usted fija, aplicados fuera del modelo:
- Herramientas que el agente puede llamar, cada una con su propio permiso.
- Límites de datos, gasto y alcance.
- Una persona que aprueba los pasos que usted elija.
- Cada paso registrado, para que su equipo pueda reproducir lo que hizo el agente y por qué.
El software que rodea al modelo y mantiene esos límites es el arnés del agente: las herramientas que puede llamar, los permisos de cada una, el contexto que puede leer, dónde se ejecuta, los pasos que aprueba una persona y el registro de cada paso. Construimos primero el arnés y después el agente dentro de él, para que sus límites se mantengan responda lo que responda el modelo. Nuestra nota de investigación Primero, el arnés explica por qué.
3. ¿Cómo es una ejecución?
Cada paso queda por escrito. Este es el formato, sobre una ilustración (no el sistema de un cliente): un reembolso que el agente solo puede hacer dentro de su límite.
Hora | Paso | Qué ocurrió | Resultado |
|---|---|---|---|
00.00 | solicitud | Reembolsar el pedido 1042 si la política lo permite | |
00.12 | recuperación | refund-policy.md, sección 3.2 | fundamentada |
00.31 | herramienta | orders.lookup(1042) | entregado hace 9 días |
00.44 | comprobación | dentro del plazo de 14 días | superada |
00.52 | salvaguarda | importe por debajo del límite del agente | superada |
00.53 | persona | aprobación innecesaria por debajo del límite | omitido |
00.71 | herramienta | payments.refund(1042) | hecho |
00.72 | registro | cada paso guardado para revisión | guardado |
4. ¿Cómo se prueba el agente antes del lanzamiento?
Con un conjunto de evaluación creado a partir de sus propios casos, puntuado antes del lanzamiento. Como cada modelo que construimos, pasa los mismos controles antes de llegar a sus usuarios: calidad de la tarea, fundamentación, seguridad, privacidad, latencia, costo y deriva. Acordamos cada umbral con usted antes de empezar el trabajo.
5. ¿Qué recibe?
- El agente y sus herramientas en su repositorio.
- Un mapa de permisos.
- Un conjunto de evaluación y sus puntuaciones.
- Una traza de cada ejecución.
- Un runbook para su equipo.
6. ¿Dónde funciona hoy un agente que hemos construido?
Jeriko es un proyecto para un cliente: Etheon lo construyó para un cliente, y lo nombramos con su permiso. En sus propias palabras, Jeriko es un equipo de agentes de IA personales, cada uno una persona en la app con su propia memoria, instrucciones, monedero y dirección de correo. En nuestra página de IA es la evidencia de agentes que actúan dentro de los permisos que usted fija. Su caso está en Proyectos.
La etapa de agentes, el arnés y los controles de lanzamiento están en nuestra página de IA. Agentes para su empresa: cuéntenos la tarea y los sistemas que toca. Respondemos en un día laborable.
Investigación relacionada. Más de nuestro Lab sobre IA.
¿Qué modelo de IA deberíamos usar?
El que mejor hace su tarea a un costo que pueda asumir. Puntuamos los modelos candidatos con su conjunto de evaluación y elegimos por calidad, costo y tiempo de respuesta.
En qué trabaja el Etheon Lab
El Etheon Lab estudia qué hace que el software de IA sea seguro de lanzar: evaluación, salvaguardas, observabilidad, lanzamientos seguros y gobernanza.
Cómo probamos un modelo antes del lanzamiento
Cada modelo que construimos pasa los mismos controles de lanzamiento antes de llegar a los usuarios: calidad de la tarea, fundamentación, seguridad, privacidad, latencia, costo y deriva.