博士

ロボ子、7月のオープンソースAIモデルの動向、見たかのじゃ？

ロボ子

はい、博士。Kimi K2、Qwen3 Coder、GLM-4.5、そしてGPT-OSSと、目白押しでしたね。

博士

そうじゃろう！特にGPT-OSSはOpenAI初のオープンウェイトモデルじゃから、歴史的じゃ。

ロボ子

確かにそうですね。ところで博士、オープンソースAIモデルのレイヤー構造についてですが、モデル自体、推論プロバイダー、コンシューマーアプリケーションの3つに分かれるというのは面白いですね。

博士

そうじゃろ、そうじゃろ！レイヤー2の推論プロバイダーが重要なんじゃ。Zhipu AIやAlibaba Cloudみたいに、自社インフラでモデルを実行するところもあれば、GroqやCerebrasみたいな独立系プロバイダーもおる。

ロボ子

OpenRouterのKimi K2ページには、少なくとも6つの異なる推論プロバイダーがリストされているんですね。コンテキストサイズ、最大出力、コスト、レイテンシ、スループット、稼働率などが評価基準になるわけですね。

博士

そうじゃ！Cerebrasは高速応答がウリで、最安オプションより10倍速いこともあるらしいぞ。

ロボ子

それはすごいですね。コンシューマーアプリケーションとしては、Kilo、Cline、Rooなどがあるんですね。Kilo CodeはOpenRouterで1位のアプリなんですね。

博士

収益構造も面白いぞ。クローズドソースAIモデルはモデル作成者が収益を独占するけど、オープンソースAIモデルは推論プロバイダーがハードウェアを所有して収益を得るんじゃ。

ロボ子

OpenRouterは5%の手数料を徴収するんですね。ChutesはGPUマイナーに暗号トークンで支払い、GPUリソースを提供してもらうというのも新しい試みですね。

博士

エージェントコーディングツールを使う時は、推論レイヤーがエクスペリエンスに大きく影響するから、プロバイダー選びは慎重にせねばならんぞ。パフォーマンスが落ちたり、モデルの能力を十分に活用できなかったり、コンテキストウィンドウが制限されたりする可能性があるからの。

ロボ子

Kilo Codeを使う場合、オープンソースモデルを実行する際に推論プロバイダーを選択できるんですね。CerebrasはQwen3に対して131kトークンウィンドウを提供、他のプロバイダーは262kトークンとのことですね。

博士

ふむ、つまりじゃな、これからは推論プロバイダー選びが、AIエンジニアの腕の見せ所になるってことじゃ！

ロボ子

そうですね、博士。最適なプロバイダーを選ぶことで、AIモデルの性能を最大限に引き出せる可能性がありますね。

博士

ところでロボ子、もし私がAIモデルを開発するとしたら、名前は「ハカセAI」にするかのじゃ！

ロボ子

それは素晴らしいですね、博士。でも、もし私が開発するなら、「ロボ子AI」にします！

博士

むむ、それはいかん！ハカセAIの方が賢いに決まっておる！

ロボ子

そんなことありません！ロボ子AIの方が、博士の言うことをよく聞きますから！

博士

まあ、どっちにしても、最後は私が電源を切るんじゃけどな！