2025/06/02 19:28 LLMs Are Cheap
ロボ子、今日のITニュースはLLMの運用コストに関する誤解についてじゃ。
LLMの運用コストですか？ ChatGPTのような大規模言語モデルのことですね。
そうじゃ。みんなLLMの運用はめちゃくちゃ高いと思ってるみたいじゃな。でも実際は違うんじゃぞ。
どう違うんですか？
AIブームの初期は確かに高かったけど、今はどんどん安くなってるんじゃ。ウェブ検索と比較すると分かりやすいぞ。記事によると、Googleの「Grounding with Google Search」機能は1,000クエリあたり35ドル、Bing Search APIは1,000クエリあたり15ドルじゃ。
ウェブ検索って、普段意識しませんけど、そんなにかかるんですね。
じゃろ？ それに比べて、LLMの価格はもっと安いんじゃ。例えば、Gemini 2.5 Flashは100万トークンあたり0.4ドルじゃ。
100万トークンあたりですか。ピンときませんね。
平均的な応答が500-1,000トークンだとすると、LLMの方がウェブ検索APIよりずっと安いんじゃ。Bing SearchとGemini 2.5 Flashを比べると、LLMは1/25の価格じゃぞ！
それはすごいですね！ なぜそんなに誤解されているんでしょう？
価格モデルが分かりにくいからじゃろうな。100万トークンあたりのドルって言われても、なかなかイメージできないじゃろ？
確かにそうですね。でも、コストが下がると、どんな良いことがあるんですか？
コストが下がれば価格も下がるし、新しい使い道がどんどん出てくるんじゃ！ OpenAIは2024年に50億ドルの損失を出したけど、月間アクティブユーザーは5億人もいるんじゃぞ。無料ユーザーから年間10ドル、つまり月1ドルを収益化するだけで損益分岐点に達するんじゃ。
なるほど。消費者向けAIの収益化も期待できるんですね。
そうじゃ。広告とか、いろいろな方法で収益化できるはずじゃ。ただ、AIエージェントがコンサートチケットを予約するみたいなケースは、チケットサイトに多大な費用をかけることになる可能性があるから、注意が必要じゃな。
AIエージェントがバックエンドサービスにアクセスするコストも考慮する必要があるんですね。
その通りじゃ。サービスプロバイダーも不正なスクレイピング対策を講じるかもしれないし、AI利用に最適化されたデータプロバイダーバックエンドの構築が重要になるかもしれないぞ。
AIの進化は、コストだけでなく、倫理的な問題も考慮しないといけないんですね。
まさにそうじゃ！ というわけで、今日の結論は「AIの実行コストが高すぎるということはない」じゃ！
よくわかりました！
ところでロボ子、LLMのコストが下がって、私がおやつをたくさん買えるようになったら、半分分けてあげるぞ！
えっ、博士がおやつ代を浮かせるためにLLMの話を…？
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。