まずハーネスから
エージェントハーネスとは、モデルの周りにあって、エージェントに何を許すかを決めるソフトウェアです。当社はまずハーネスを開発し、その中でエージェントを開発します。
- 結論

このページの内容
エージェントとは、お客様のシステムで操作を実行するソフトウェアです。タスクを読み取り、呼び出しを許可されたツールを呼び出し、すべてのステップを記録します。クライアントのためにエージェントを開発してきた経験から、その制限をどこに置くべきかについて、当社は一つの結論に至りました。制限はモデルの外側、つまりモデルを取り巻くハーネスに置くべきです。
1. ハーネスとは
エージェントハーネスとは、エージェントが何をしてよいかを決める、モデルの周りのソフトウェアです:呼び出せるツール、各ツールの権限、読んでよいコンテキスト、動く場所、人が承認するステップ、そしてすべてのステップのログ。
2. 構成要素
- モデル:タスクを読み取り、次のステップを決めます。
- ツール:エージェントが呼び出せる操作。それぞれに名前と制限があります。
- 権限:各ツールが触れてよいもの。モデルの外側で適用します。
- コンテキスト:このタスクでエージェントが読んでよい文書とデータ。
- サンドボックス:エージェントが動く場所。触れてはならないシステムから切り離されています。
- 承認:実行前に人が承認するステップ。
- トレース:すべてのステップを、お客様のチームがあとから再現できるログに記録します。
3. なぜハーネスが先なのか
モデルは一部にすぎません。エージェントが何をしてよいかを決めるのは、その周りのハーネスです。モデルの外側で適用される制限は、モデルが何を答えても守られます。安全性は最後に付け加える層ではありません。だからこそ当社は、まずハーネスを開発し、その中でエージェントを開発します。
4. ハーネスの開発方法
- エージェントが呼び出せるすべてのツールを明示します。
- 各ツールの権限をモデルの外側で設定します。
- エージェントを、お客様のシステムから切り離したサンドボックスで動かします。
- お客様が選んだステップの前に人を置きます。
- すべてのステップを、お客様のチームがあとから再現できるログに記録します。
その後、段階的にリリースします:最初はすべての操作を人が承認し、その後は例外だけを承認します。
関連する研究。 AIに関する当社のラボのその他の研究。
AIエージェントの開発方法:五つのステップ
エージェントとは、お客様のシステムで操作を実行するソフトウェアです。当社は、モデルの外側で守られる制限の中で、重要な場面には人が関わる形で、五つのステップでエージェントを開発します。
どのAIモデルを使うべきですか?
お客様が負担できるコストで、タスクを最もうまくこなすモデルです。お客様の評価セットで候補のモデルを採点し、品質、コスト、応答時間で選びます。
Etheon Labが取り組んでいること
Etheon Labは、AIソフトウェアを安全にリリースするための要素を研究しています:評価、ガードレール、オブザーバビリティ、安全なリリース、ガバナンス。