Le harnais d’abord
Un harnais d’agent est le logiciel qui entoure un modèle et décide de ce que l’agent peut faire. Nous construisons d’abord le harnais, puis l’agent à l’intérieur.
- Conclusion

Sur cette page
Un agent est un logiciel qui agit dans vos systèmes : il lit une tâche, appelle les outils qu’il est autorisé à appeler et consigne chaque étape. Construire des agents pour nos clients nous a menés à une conclusion sur la place des limites d’un agent. Elles se trouvent en dehors du modèle, dans le harnais qui l’entoure.
1. Ce qu’est un harnais
Un harnais d’agent est le logiciel qui entoure un modèle et décide de ce que l’agent peut faire : les outils qu’il peut appeler, les autorisations sur chacun, le contexte qu’il peut lire, l’endroit où il s’exécute, les étapes qu’une personne approuve et le journal de chaque étape.
2. Ses parties
- Modèle : lit la tâche et décide de l’étape suivante.
- Outils : les actions que l’agent peut appeler, chacune nommée et limitée.
- Autorisations : ce que chaque outil peut toucher, appliqué en dehors du modèle.
- Contexte : les documents et les données que l’agent peut lire pour cette tâche.
- Bac à sable : où l’agent s’exécute, à l’écart des systèmes qu’il ne doit pas atteindre.
- Approbation : les étapes qu’une personne approuve avant qu’elles n’aient lieu.
- Trace : chaque étape écrite dans un journal que votre équipe peut rejouer.
3. Pourquoi il passe en premier
Le modèle n’est qu’une partie ; le harnais qui l’entoure décide de ce que l’agent peut faire. Les limites appliquées en dehors du modèle tiennent quelle que soit sa réponse. La sûreté n’est pas une couche ajoutée à la fin, alors nous construisons d’abord le harnais, puis l’agent à l’intérieur.
4. Comment nous en construisons un
- Nommer chaque outil que l’agent peut appeler.
- Fixer les autorisations de chaque outil en dehors du modèle.
- Exécuter l’agent dans un bac à sable, à l’écart de vos systèmes.
- Placer une personne avant les étapes que vous choisissez.
- Écrire chaque étape dans un journal que votre équipe peut rejouer.
Puis nous livrons par étapes : d’abord une personne approuve chaque action, puis seulement les exceptions.
Recherches associées. D’autres travaux de notre Lab sur IA.
Ce sur quoi travaille le Lab Etheon
Le Lab Etheon étudie ce qui rend un logiciel d’IA sûr à livrer : évaluation, garde-fous, observabilité, mises en production sûres et gouvernance.
Comment nous testons un modèle avant sa mise en production
Chaque modèle que nous construisons passe les mêmes points de contrôle avant d’atteindre les utilisateurs : qualité de la tâche, ancrage, sûreté, confidentialité, latence, coût et dérive.