ほとんどのAIコーディングエージェントの作業はI/Oであり、推論ではありません。ファイルの読み取り、テストの生成、ドキュメントの更新—何千ものトークンがタスクに過剰なフロンティアモデルに消費されます。2028年までに、AIコーディングコストが開発者の給料を上回ると予想されており、エンジニアリングリーダーは毎月1人あたり$200–$500+をトークンに支払うでしょう。

SpotifyのPortalは、ファイル分析用のbulk-readerとボイラープレート生成用のcode-writerという2つのモードでソリューションを提供しています。両方ともGemini 2.5 Flashを使用しますが、任意の設定済みモデルを受け入れることができます。モードはエフェメラルランタイム上で実行されるエージェントとして宣言されます—インフラストラクチャ管理は不要です。

現在の実装は、Pre Tool Useフックを備えたClaude Codeプラグイン（shunt）を使用しており、これらのフックはファイルサイズをチェックし、大きな読み取りを自動的にbulk-readerにルーティングします。これにより、手動のルーティングルールが排除され、プロジェクト間の一貫した委譲が保証されます。

重要な洞察：雑事を安いモデルにルーティングし、複雑な推論タスクには高価なモデルを予約する。

主要エンティティ：会社：Spotify, Amazon Web Services, Google | 人物：Claude, Tim Cook, Elon Musk