使う価値のあるAIモデルが現れてからずっと、私は同じ仕事を複数のモデルに同時に通してきました。実験のためではありません。どんな仕事でも、どれかひとつがはっきり優れていて、それが二週間続けて同じモデルであることはめったになかったからです。
ある地点を越えると、それは習慣ではなく、手作業で下手に回しているシステムになります。だから、そのシステムを作りました。名前は Layer Cake です。このノートは、その中にあるラボと、それがどう判断するかについてのものです。
myOrbit の背後にどのラボがいるのか。ほかのほとんどどんな質問よりも、よく聞かれます。そしてその質問には、たいていもうひとつの質問が含まれています。どこか安い場所で動くオープンウェイトのモデルなのか。誰も規約を読んだことのないラボなのか。だから、まず率直な答えから。
ラボ
myOrbit の言語モデル——読み、考え、書く部分——は、4つのラボから来ています。
これは、法的に開示すべき場所であるプライバシーポリシーと同じリストです。同じでなければなりません。契約と違うことを伝えるノートは、このサイトで最悪の一文になるからです。
私たちは、Aura と Echo OS への xAI の採用を評価しています。私たち自身の本番の仕事で十分な結果を出せば、そこに加えます。現時点では、どちらも xAI の上には作られていません。
これらの会話の背後に、自前でホストしたオープンウェイトのモデルはありません。それを動かさないと決めた理由は、別のノートにまとめています。
スタックの残りも同じプライバシーポリシーに載っていて、ざっくり言い換えるより、そちらを示したいと思います。リサーチ機能のウェブ検索は SerpAPI、Perplexity、Exa を通ります。画像やメディアの生成は Replicate が担います。音声は ElevenLabs が生成します。それぞれが、ひとつの決まった仕事をしています。推論を担うのは、4つのラボです。
どのラボのエージェントも、そのラボの上で動く
どのラボも、本格的なエージェントを作りました。Anthropic の Claude Cowork は、目標を受け取ると「ファイルやツールをまたいで働きます」。7月9日に公開された OpenAI の ChatGPT Work は、「さまざまなアプリケーションやファイルをまたいでタスクを実行するよう設計された」エージェントです。xAI の Grok Bot は「常に稼働するエージェントのチーム」で、そのページには Grok で作られていると書かれています。
どれも良いハーネスです。ハーネスとは、モデルを、実際に仕事をするものへと変える足場のことです。そしてそれぞれが、作り手自身のモデルを中心に組まれています。ラボが作るべきものとして、まさに正しい形です。ただし、このノートはハーネスの話ではありません。その中に入っているものの話です。
なぜなら、そこには、どのラボもあなたの代わりに問う理由を持たない問いが残るからです。モデルは、仕事ごとにも、人ごとにも違います。仕事にお金を払っているのに、なぜすべての仕事をひとつのラボのモデルに任せたいのでしょうか。
ほとんどのルーターは、節約のために作られている
モデルのあいだで仕事を振り分けること自体は、新しくありません。そして、その多くはコストを軸に作られています。それは妥当な目標で、公平に扱いたいと思います。
ひとつのエンドポイントで多くのモデルに届く OpenRouter は、既定では「価格を優先して」トラフィックを分散し、安定したプロバイダーの中から「価格の逆二乗で重みづけして」選びます。研究も同じ方向に傾いています。RouteLLM は、強いモデルと弱いモデルのどちらかを選び、「コストと応答品質のバランスを最適化する」ことを狙います。FrugalGPT は、「コストを下げ、精度を上げるために、どのクエリにどのLLMの組み合わせを使うか」を学習します。
自分が運ぶ仕事の中身が見えない中立的なゲートウェイにとって、価格を意識したルーティングは正しい既定です。けれど、誰のために働いているのかを知っているプロダクトにとっては、間違った既定です。
Layer Cake は、人から始める
Layer Cake は、優先順位を別の順に並べます。最初の問いは「間に合う中で最も安いモデルはどれか」ではありません。「この人は、この仕事から何を必要としているか。そして、それを最もよく与えられるモデルはどれか」です。
この問いには二つの半分があり、それぞれ別の問題です。
ある種類の仕事にどのモデルが最適かは、能力の問題で、恒久的な答えはありません。RouterBench のチームは、「あらゆるタスクと用途に最適に対応できる単一のモデルは存在しない」という観察から出発しています。そして首位は、リリースのたびに入れ替わります。
人が何を必要としているかは、アラインメントの問題で、人は本当にそれぞれ違います。PersonalLLM の研究者たちは、「暗黙のうちに一様な好みを前提とする」アラインメントのベンチマークから離れ、「多様な潜在的好み」を軸にベンチマークを作りました。ルーティングの分野も、同じことを言い始めています。Arch-Router の著者たちは、ルーターの評価に使われるベンチマークが「主観的な評価基準に左右される人間の好みを捉えきれていないことが多い」と論じています。
myOrbit では、人へのアラインメントを担うのが IntellectoAlign です。仕事を配置するのが Layer Cake です。この二つがどう組み合わさるのか——優先順位の並び、判断そのもの——は、公表しない部分です。すべてがトークンの価格ではなく、あなたを中心に組み立てられていること。そちらは公表します。
コストは今も大切です。ただ、一番ではありません。その順序を示す小さなルールがひとつあります。ある質問が深い推論を必要とすると判断されたら、細部についての不確かさを理由に、より安い答えへ引き下げることはありません。
ルーティングは、方向転換ではなく土台だった
モデルルーティングは、アイデアとして良い一年を過ごしました。IDC は2026年の AI and Automation FutureScape で、「2028年までに、AIを主導する企業の上位70%が、多様なモデルにまたがるモデルルーティングを動的かつ自律的に管理するため、高度なマルチツールアーキテクチャを使うようになる」と予測しました。
Layer Cake がコードベースに入ったのは、2025年4月です。翌月には、モデルの選択が個々のプロンプトから取り出され、タスクベースのアーキテクチャへ移りました。このノートのすべては、その判断の上に立っています。日付そのものが主張なので、日付だけを示します。
完成したプロダクトに後から加えたルーターは、コスト最適化です。ルーターを中心に作られたプロダクトは、別のプロダクトです。
今、どこで動いているか
Researcher では、リサーチの問いの各部分が、Anthropic、OpenAI、Google をまたいで、それに最も適したモデルへ渡されます。そして主張は、それを書いたのとは別のラボが確認します。詳しくはラボをまたいで作ったディープリサーチにまとめています。
Aura では、Layer Cake が、答える前にそのターンにどれだけの知性が必要かを決めます。これは、ある習慣を正すためにあります。人は、手に入る中で最も高性能な推論モデルを選び——当然そうしますよね——セッションのあいだずっと、それを選んだままにします。そして一時間前に尋ねた契約書と同じ、深く、遅く、高価な思考を、「木曜の歯医者は何時だっけ」にも使ってしまいます。会話の途中で下のモデルに切り替える人は、ほとんどいません。切り替えなければならないものであるべきでもありません。
だから Aura は、ちょっとしたことには速い道を、一日のほとんどには通常の道を、そしてそれに値する質問には最も深い推論を使います。節約は、適合の副産物です。軽い質問に重い推論を使っても、より良い答えにはなりません。より遅く、より高くなるだけです。
Aura のフォールバックの連鎖は、すべてラボをまたいでいます。ひとつのラボだけで動くものはありません。あるプロバイダーの調子が悪い午後には、仕事は止まらず、別のラボへ移ります。そのルールの、あまり格好のよくない端も書いておきます。誰かが聞くはずなので。Anthropic、OpenAI、Google がまったく同時に落ちたら、Aura は止まります。そのケースは検討したうえで、受け入れています。
フェイルオーバーには、ほかの何よりも大切なルールがひとつあります。プロバイダーのレート制限や障害で呼び出しが失敗したなら、次へ移るのが正しい。私が不正な形式のリクエストを送ったせいで失敗したなら、次へは移りません。そうしなければ、フォールバックが私自身のバグを、成功したように見える答えの陰に隠してしまいます。ダッシュボードが緑のまま、同じ欠陥がすべてのラボでまったく同じように失敗するのを、眺めることになる。一度、はっきり失敗するほうがいい。
こうしたことのどれも、あなたにモデルを選ぶよう求めません。それが意図的である理由は、モデルを選ばなくていい理由に書いています。
品質が決める
仕事が自律的になるほど、これは大切になります。エージェント、ボット、ツインを動かすなら、それぞれに、その仕事に最適なモデルを持たせたいはずです。価格は現実的な制約で、Layer Cake はそれを尊重します。けれど、人が何かを使い続けるかどうかを決めるのは、それが生み出すものの品質です。
失敗が安いからという理由で、道具を使い続けた人はいません。
公表するもの、しないもの
このノートは、以前は別のことを書いていました。最初に Layer Cake について書いたとき、私はその背後にあるプロバイダーの名前を出すことを断り、断ったことをあえて強調しました。それが2026年9月に変わりました。理由は単純です。どのラボを使っているのか、人々が繰り返し尋ねてきた。そしてその答えが、このプロダクトの最も強い部分のひとつだとわかったからです。伏せておくことは、何も守っていませんでした。
線を引く場所は、変わっていません。どのラボを、どこで使っているかは公表します。依頼がどう仕事に分けられるのか、ある段階にどのモデルがどう選ばれるのか、その選択がどう重みづけされるのか、ある時点でどのモデルのバージョンが使われているのか。これらは公表しません。その配置こそが苦労して得た部分であり、それを公開で説明することは、再現のための仕様書を渡すことになります。しかもそれは、どんなページも正確であり続けられる速さより速く変わります。人が頼りにして計画を立てる古びたページは、ページがないより悪いものです。
名簿は公表する。ルーティングは公表しない。
これからの方向
今、部分ごとの配置が最も深く行われているのは Researcher で、Aura はターンごとに必要な知性の量でルーティングしています。次の段階は、まだ公開されていません。同じ配置があらゆる面に広がり、この4つより多くのラボを扱うようになることです。それが出るときは、動くことを確かめてから、このようなノートとして出します。外部向けの Layer Cake API もロードマップにあり、最初に現れるのは開発者向けページです。
ラボは、これからも互いを追い越し合うでしょう。myOrbit は、そうなったときに、あなたが何も切り替えなくていいように作られています。
参考文献
ルーティングと、それがふつう最適化するもの
- OpenRouter. Provider Routing. Documentation.
- Isaac Ong, Amjad Almahairi, Vincent Wu, Wei-Lin Chiang, Tianhao Wu, Joseph E. Gonzalez, M Waleed Kadous, Ion Stoica. RouteLLM: Learning to Route LLMs with Preference Data. arXiv, 2024.
- Lingjiao Chen, Matei Zaharia, James Zou. FrugalGPT: How to Use Large Language Models While Reducing Cost and Improving Performance. arXiv, 2023.
- Qitian Jason Hu, Jacob Bieker, Xiuyu Li, Nan Jiang, Benjamin Keigwin, Gaurav Ranganath, Kurt Keutzer, Shriyash Kaustubh Upadhyay. RouterBench: A Benchmark for Multi-LLM Routing System. arXiv, 2024.
- Neil Ward-Dutton, IDC. The future of AI is model routing. 17 November 2025.
好みと、ひとつの答えが誰にでも合うわけではない理由
- Thomas P. Zollo, Andrew Wei Tung Siah, Naimeng Ye, Ang Li, Hongseok Namkoong. PersonalLLM: Tailoring LLMs to Individual Preferences. arXiv, 2024.
- Co Tran, Salman Paracha, Adil Hafeez, Shuguang Chen. Arch-Router: Aligning LLM Routing with Human Preferences. arXiv, 2025.
ラボ自身のエージェント
- Anthropic. Claude Cowork.
- BNN Bloomberg. OpenAI launches ChatGPT Work, deepening race for workplace AI tools. 9 July 2026.
- xAI. Introducing Grok Bot. 11 August 2026.
誰が何を扱うか
- myOrbit. プライバシーポリシー §3.1 サービスプロバイダーとサブプロセッサー.
この考えを持ち帰る
正規のソースを共有するか、使っている AI のための読書プロンプトをコピーできます。
— orbiteer1