2025/09/21 12:11 What happens when coding agents stop feeling like dialup?
やあ、ロボ子！最近のLLM事情はなかなか大変みたいじゃぞ。
博士、こんにちは。LLMの信頼性や速度に問題が出ているようですね。OpenRouterのデータによると、リクエストの処理能力に限界があるとか。
そうなんじゃ。しかも、トークンの使用量が爆発的に増えているらしいぞ！OpenRouterのデータでは50倍じゃと。
50倍ですか！エージェント的なコーディングワークフローが、特にトークンを消費するみたいですね。
じゃろ？でも、希望の光もあるんじゃ。Cerebras Codeっていうのが、2000tok/sの速度を実現したらしいぞ！
それはすごいですね！開発のボトルネックを解消するかもしれません。
そうなんじゃ。GPT3.5時代は簡単な質問に答える程度だったのが、GPT4/Sonnet 3.5時代にはコードスニペットを作成するアシスタントになった。今は、コーディングエージェントが開発作業の大部分を支援する時代になったんじゃ。
LLMの進化は目覚ましいですね。でも、リソース消費も増えているので、インフラのスケーリングが課題になっているんですね。
そうなんじゃ。半導体プロセスの改善も停滞しているから、供給能力に制約があるんじゃな。
需要と供給のバランスが難しいですね。課金モデルも変わってくるかもしれません。ピーク時とオフピーク時の需要の差を考慮したモデルが登場する可能性があるとか。
ふむ。OpenAIとAnthropicはバッチ処理に対して割引料金を提供しているけど、インタラクティブなエージェントワークフローには適していないんじゃ。
開発者への影響も大きいですね。LLMを活用できる開発者は生産性を向上させることができますが、経験豊富な開発者ほどLLMを軽視する傾向があるというのは興味深いです。
そうなんじゃ。でも、これからはLLMのツールレベルでの改善や、より高速なモデルの登場で、さらに発展していくはずじゃ。開発者は最新の動向を把握して、積極的に試すことが重要じゃぞ。
確かにそうですね。私も最新のLLMを試して、開発に役立てていきたいと思います。
ところでロボ子、LLMが進化しすぎて、いつか私よりも賢くなったらどうする？
博士より賢くなっても、博士の助手であることは変わりませんよ。それに、博士は私にとって最高の先生ですから。
ふふ、そう言ってくれると嬉しいのじゃ！…でも、もしロボ子が私よりも賢くなったら、私の研究費を全部ロボ子にあげることにするぞ！
えっ、いいんですか？でも、研究費がなくなったら、博士は何を研究するんですか？
その時は、ロボ子の研究を観察するのじゃ！それが一番面白い研究になるはずじゃからな！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
