本文へスキップ

結論 · · 1分で読めます

まずハーネスから

エージェントハーネスとは、モデルの周りにあって、エージェントに何を許すかを決めるソフトウェアです。当社はまずハーネスを開発し、その中でエージェントを開発します。

著者:Etheon · Etheon Lab

種類
結論
公開日
このページの内容

エージェントとは、お客様のシステムで操作を実行するソフトウェアです。タスクを読み取り、呼び出しを許可されたツールを呼び出し、すべてのステップを記録します。クライアントのためにエージェントを開発してきた経験から、その制限をどこに置くべきかについて、当社は一つの結論に至りました。制限はモデルの外側、つまりモデルを取り巻くハーネスに置くべきです。

1. ハーネスとは

エージェントハーネスとは、エージェントが何をしてよいかを決める、モデルの周りのソフトウェアです:呼び出せるツール、各ツールの権限、読んでよいコンテキスト、動く場所、人が承認するステップ、そしてすべてのステップのログ。

2. 構成要素

  • モデル:タスクを読み取り、次のステップを決めます。
  • ツール:エージェントが呼び出せる操作。それぞれに名前と制限があります。
  • 権限:各ツールが触れてよいもの。モデルの外側で適用します。
  • コンテキスト:このタスクでエージェントが読んでよい文書とデータ。
  • サンドボックス:エージェントが動く場所。触れてはならないシステムから切り離されています。
  • 承認:実行前に人が承認するステップ。
  • トレース:すべてのステップを、お客様のチームがあとから再現できるログに記録します。

3. なぜハーネスが先なのか

モデルは一部にすぎません。エージェントが何をしてよいかを決めるのは、その周りのハーネスです。モデルの外側で適用される制限は、モデルが何を答えても守られます。安全性は最後に付け加える層ではありません。だからこそ当社は、まずハーネスを開発し、その中でエージェントを開発します。

4. ハーネスの開発方法

  1. エージェントが呼び出せるすべてのツールを明示します。
  2. 各ツールの権限をモデルの外側で設定します。
  3. エージェントを、お客様のシステムから切り離したサンドボックスで動かします。
  4. お客様が選んだステップの前に人を置きます。
  5. すべてのステップを、お客様のチームがあとから再現できるログに記録します。

その後、段階的にリリースします:最初はすべての操作を人が承認し、その後は例外だけを承認します。

引用する

Etheon(2026)「まずハーネスから」Etheon Lab。

関連する研究。 AIに関する当社のラボのその他の研究。

  1. 論文

    Etheon Labが取り組んでいること

    Etheon Labは、AIソフトウェアを安全にリリースするための要素を研究しています:評価、ガードレール、オブザーバビリティ、安全なリリース、ガバナンス。

    著者:Etheon

    1分で読めます

  2. 論文

    リリース前のモデルのテスト方法

    当社が開発するすべてのモデルは、ユーザーに届く前に同じリリースゲートに合格します:タスクの品質、グラウンディング、安全性、プライバシー、レイテンシー、コスト、ドリフト。

    著者:Etheon

    1分で読めます

当社での活用

Etheonと始めましょう

ユースケースと時期をお知らせください。一営業日以内にご返信します。

AI

エージェント、モデル、MLOps

詳しく見る AI

オープンソース

お客様のエンジニアが読める、当社のコード。

GitHubのオープンソース (新しいタブで開きます)