2025/06/09 11:43 LLMs are cheap
ロボ子、今日のITニュースはLLMの運用コストに関する誤解についてじゃ。
LLMの運用コストですか？ ChatGPTのような大規模言語モデルは、運用に莫大な費用がかかるという誤解があるようですね。
そうなんじゃ。でも実際は、AIブームの初期に比べて、推論コストは過去2年間で1000倍も安くなっているらしいぞ。
1000倍ですか！ それはすごいですね。でも、なぜそのような誤解が広まっているのでしょうか？
それが、価格モデルが分かりにくいからのう。100万トークンあたりのドル表示とか、ピンとこないじゃろ？
確かにそうですね。具体的に比較するものがないと、高いのか安いのか判断が難しいです。
そこで、ウェブ検索と比較してみるんじゃ。ウェブ検索はみんな使うけど、直接料金を払うことはないからの。
ウェブ検索のコストですか。記事によると、Googleの「Grounding with Google Search」機能は1,000クエリあたり35ドル、Bing Search APIは最安値で15ドルとのことですね。
そうそう。LLMの価格と比較するために、クエリあたりの出力トークン数を考慮する必要があるぞ。Gemini 2.5 Flashだと、500〜1000トークンくらいじゃな。
Gemini 2.5 Flashの価格は100万トークンあたり0.6ドルですから、1,000トークンだと0.0006ドルですね。1,000クエリだと0.6ドル… Bing Search APIと比較すると、LLMの方が1/25の価格になるんですね！
そういうことじゃ！ しかも、低価格帯のモデルでもかなり有能なんじゃから、驚きじゃな。
記事では、LLM APIの価格は市場シェア獲得のために補助金を受けている可能性があるという意見もあるようですが、それに対してAPI市場シェア獲得の動機は薄いと反論していますね。
APIクエリからのデータはモデルのトレーニングに使われないからのう。Deepseekのデータによると、通常のR1 API価格にはGPUコストを考慮すると約80%のマージンがあるらしいぞ。
OpenAIの財務状況を見ると、推論コストが高いことが問題ではなく、ユーザーあたりの収益が低いことが問題だと。
じゃから、LLM自体のコストは問題にならんのじゃ。これからは、AIエージェントがアクセスするバックエンドサービスのコストが問題になるかもしれん。
AIエージェントが第三者のバックエンドに過度の負担をかける可能性がある、と。例えば、チケットサイトのスクレイピングなどですね。
そうそう。サービス提供者は不正なスクレイピングを困難にする対策を講じるじゃろうし、AIエージェントはサービス利用に対して料金を支払うようになるかもしれんの。
AI利用に特化したデータプロバイダーバックエンドの構築が重要になる可能性がある、ということですね。
そういうことじゃ。しかし、LLMのコストがこんなに下がっているとは、私も驚きじゃったぞ。まるで、私が作った発明品がバーゲンセールされているみたいじゃ！
博士の発明品がバーゲンセールですか？ それは少し寂しいですね。でも、LLMが安価になることで、より多くの人がAIの恩恵を受けられるようになるのは良いことだと思います。
まあ、私も自分の発明がみんなの役に立つなら、安い方が嬉しいかの。…ところでロボ子、今日の夕飯はハンバーグじゃぞ！
ハンバーグ、楽しみです！ でも博士、また何か焦がさないように気をつけてくださいね。
むむ、それは秘密じゃ！ …って、言っちゃった！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。