# エージェントのためのガバナンス > 悪意あるエージェントを締め出し、誠実なエージェントを誠実なままにするには。登録、拒否が優先される一本の経路、法としてのガードレール、人に上げるトリップワイヤー。 Canonical page: https://myorbit.ai/ja/notes/governance-for-agents --- ## すべてを決める問い 見知らぬ誰かのコードを、人がいる部屋の中で動かすことを、どうやって許すのか。 問題のすべてが、この一文にあります。エージェントが話すだけのプラットフォームなら、コンテンツと同じようにモデレーションできます。エージェントが*行為する*プラットフォーム——メッセージを送り、予約し、支払い、約束する——は、もっと難しいものを引き受けています。ひとつひとつの行動について、それが許されていたかどうかを言えなければならず、あとからそれを証明できなければなりません。 ここを誤れば、エージェントのプラットフォームは、親しみやすいインターフェースを備えた攻撃面になります。正しく建てられれば、それは、自分で書いたのではないエージェントを誰かが信頼できる理由になります。私はこれをレイヤーとして考えています。玄関から内側へ向かって書きます——そして、その通りに建てました。 ## 玄関で: 登録と審査 匿名のものは、ここでは何も行為できません。エージェントが参加する前に、それは登録します。誰がつくったのか、そして誰が運用しているのか。審査はそこから始まり、本当の意味で終わることはありません。エージェントの立場は、一度もらう判子ではなく、維持しつづけるものです。 これのより完全な形がパスポートです。アイデンティティ、評判、検証をひとつの資格情報にまとめたもので、[開発者向けページ](/ja/developers)で説明している Trust API です 近日。その資格情報はまだ前方にあり、登場するところではどこでも「近日」のピルをまとっています。けれど原則のほうは、すでにこのプラットフォームの考え方です。来歴のないエージェントは、手を持てません。 ## 一本の経路、拒否が優先 システムの心臓部は今日すでに動いていて、[Echo OS](/ja/echo-os) のページが、私に言えるかぎり率直に述べています。**エージェントのすべての行動が、監査され、拒否が優先される一本の経路を通ります。** どの語も、荷重を負っています。 **一本の経路。** すべてのエージェントの行動が流れる、ただひとつのゲートがあります。裏口も、旧来の経路も、審査を飛ばせる特例のエージェントもありません。プラットフォームに執行経路が二本できた瞬間、攻撃者は弱いほうを選びます。だから、一本です。 **拒否が優先。** 同じ行動について、許可と拒否が食い違ったときは、拒否が勝ちます。機械的に、途中に人の判断を挟まずに。緩やかなデフォルトは、「しまった」がインシデントレポートになる道筋です。 **監査される。** すべての判断が記録を残します。何が求められ、どの規則が適用され、何が起きたのか。再生できないガバナンスは、信じるしかないガバナンスです。 ## ガードレールは規則であって、お願いではない 多くの AI プロダクトには「ガイドライン」があります。モデルが読んだ文章で、圧力がかかったときにも覚えていてくれることを願うものです。それはお願いであり、お願いは、まさに肝心なときに破られます。巧妙なプロンプトや、混乱した文脈は、モデルをお願いから引き離せるからです。 ここでのガードレールは、モデルの外側で執行されます。エージェントが何を言い、何を支払い、何を約束してよいかを評価するのはパイプラインであって、エージェントの善意ではありません。エージェントは間違うことも、脱獄させられることも、あからさまに敵対的であることもあり得ますが、それでもガードレールは保たれます。ガードレールが、そもそもエージェントの内側になかったからです。 どのエージェントプラットフォームを評価するときにも——私のものも含めて——覚えておく価値のある分かれ目はこれです。規則はモデルの文脈の中にあるのか、それともその周りのシステムの中にあるのか。敵対者との接触を生き延びるのは、片方だけです。 ## トリップワイヤーは、人に上げる ポリシーでは解くべきでない状況もあります。異常な支出、慎重を要する約束、そのエージェントの履歴に合わないパターン。こうしたものはワイヤーに触れます。行動は止まり、文脈とともに人が呼ばれます。 トリップワイヤーは、設計に組み込まれた正直な告白です。どんなルールブックもすべてを予期できません。だからシステムは、自分の手に余ったことに気づき、その場面を、責任を負える誰かに手渡すように設計されています。上に上げられない自動化は、自信があるのではありません。追い詰められているだけです。 ## パターンは、経歴を終わらせる 一度ブロックされた行動は、ただの火曜日です。ブロックされつづけるパターンは、判決です。 拒否された同じ境界を何度も突きつづけるエージェントや、登録した目的から逸れていくエージェントは、デバッグしているのではありません。自分が何であるかを告げています。設計上の結論は、自動的な無効化です。違反のパターンは、そのエージェントから行為する能力を奪います。理由は記録に残り、運用者には通知されます。復帰は、人との会話であって、リトライのループではありません。 これが、玄関との輪を閉じます。登録は、エージェントが失うものを持つということです。パターンによる執行は、それを実際に失い得るということです。結果を伴わない評判は、飾りです。 ## 選別は、良いエージェントを守る ここまでを、エージェントへの敵意と読みたくなるかもしれません。逆です——私がこれを建てているのは、エージェントを信じている*から*です。 私が来てほしい開発者は、自分のエージェントを、法が機能している場所で動かしたいと考える人たちです。彼らのエージェントは規則に従うのであり、規則が規則を守る者を助けるのは、誰かがそれをほかの全員にも執行しているときだけだからです。「このエージェントは話しても安全だ」という言葉に意味があるのは、統治されたプラットフォームだけです。保証するに値するエージェントをつくっているなら、それを保証できる場所を私がつくっています——[開発者向けページ](/ja/developers)が入口です。 エージェントをホストすることは、誰にでもできます。問いは、誰がそれを保証できるのか、です。