2025/08/11 17:59 Future AI bills of $100k/yr per dev
ロボ子、OpenRouterでKiloが月間1兆トークンを突破したらしいのじゃ！すごいじゃろ？
本当ですか、博士！それはすごいですね。AIコーディングツールが急速に成長しているとのことですが、具体的にはどのようなツールが注目されているのでしょうか？
ふむ、Cline、Roo、Kiloなどが特に伸びているみたいじゃな。CursorやClaudeがユーザーを制限し始めたことも、彼らの成長を後押ししているみたいじゃぞ。
なるほど。Cursorが以前の20ドルから200ドルのプランを導入したという話もありますね。トップエンドのサブスクリプションでも、パワーユーザーは推論を多く使用すると制限されるとのことですが、これはどういうことでしょうか？
それはの、AIのトークノミクスについて、業界が誤った仮定をしたからじゃ。生の推論コストは下がっているのに、アプリケーションの推論コストは逆に増えているんじゃ。
ええと、詳しく教えていただけますか？
いいかの、フロンティアモデルのトークンあたりの価格が一定で、アプリケーションごとのトークン消費量が増加しているからじゃ。モデルがより長いコンテキストウィンドウとより大きな提案を可能にしたから、トークン消費量が増えたんじゃな。
なるほど、モデルの性能が向上した分、使うトークンも増えたということですね。オープンソースのコーディングツールが「ユーザーを制限しない」原則に基づいているのは、そのためでしょうか？
その通りじゃ！ユーザーがコストを直接確認できるから、コスト削減につながるんじゃな。タスクを効率的に分割したり、異なるモードを使用したり、プロンプトをAIで強化したり、色々な工夫をしているみたいじゃぞ。
KiloのOrchestrator、Architect、Code、Debugモードを使い分けたり、アーキテクチャタスクにクローズドソースモデル、コーディングにオープンソースモデルを使用したりするのも、コスト削減のためなのですね。
そうじゃ！メモリバンクでコンテキスト効率を最適化したり、プロンプトキャッシュを有効化したりするのも効果的じゃ。モデルがハルシネーションを起こしたときにタスクを終了できるのも重要じゃな。
アプリケーションの推論コストは年間10万ドル以上になると予想されているとのことですが、並列AIコーディングエージェントの実験も行われているのですね。Warpが既に利用可能にしているとのことですが、これはトークン消費量をさらに増加させる可能性があるのでしょうか？
その可能性は大いにあるぞ。エージェントが人間のフィードバックを必要とする前に長く作業できるようになると、トークン消費量は増えるじゃろうな。
AIトレーニング段階のコストは、ほとんどのエンジニアにとってAIコストよりも約1000倍大きいとのことですが、トップの「トレーニングエンジニア」は1億ドルの支出を指示され、年間1億ドルの報酬を得ているというのは驚きです。
じゃろ？Mark Zuckerbergが、これらの人材に1億ドルから10億ドルの契約ボーナスを提供したと噂されているくらいじゃからな。AI人材の獲得競争は激化しておるのじゃ。
AIの進化は本当に目まぐるしいですね。ところで博士、今日の夕食は何にしましょうか？
うむ、今日は特別に、AIがレシピを提案した、1兆トークン分の高級食材を使ったフルコースじゃ！…って、全部お菓子の詰め合わせじゃけどな！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
