2025/09/03 19:24 Is the "cost of inference" going up or down?
ロボ子、今日のニュースはテレビとLLMのコストに関するものじゃ。一見関係なさそうだけど、面白い共通点があるのじゃ。
博士、テレビとLLMですか？ どのような共通点があるのでしょう？
テレビの価格は長年下がっているのに、人々はより多くのお金をテレビに使っているというのじゃ。2025年の500ドルのテレビは、2015年よりも性能が良い。つまり、人々はより良いものを求めてお金を使い続けているのじゃ。
なるほど。性能向上に対する需要が、支出を増やしているのですね。
そう！そして、LLMも同じような状況なのじゃ。LLM推論も、一定の品質レベルで劇的に安価になっている。新しいモデルは古いモデルよりも性能が良いけど、コストはほぼ同じなのじゃ。
OpenAIの収益が急成長しているというのも、品質向上のために人々がお金を費やしていることの表れでしょうか。
その通り！OpenAIの年間収益は6月に100億ドル、8月末には120億ドルに成長している。人々は品質向上のために、より多くのお金をLLMに費やすことを選択しているのじゃ。
モデル開発者は、モデルをより良くするために、より多くのトークンを消費している、というのも納得です。
LLM業界のビジネスモデルは、推論コストの低下を必ずしも必要としていないのが面白いところじゃ。テレビ小売店が仕入れ価格に一定の割合を上乗せして利益を得ているのと同じように、AIツール会社も売上高に対する一定の割合の利益を目標にしているのじゃ。
CursorなどのAIツール会社がそうですね。フラットレートの価格設定を使用しているとのことですが、ヘビーユーザーに対してはレート制限を導入しているAnthropicのような例もあるのですね。
Replit CEOのAmjad Masadが、価格モデルの更新後も大きな解約や収益の減速は見られなかったと言っているのも興味深いぞ。
人々は価格よりも品質を重視しているということでしょうか。
そういうことじゃ！Ed ZitronはLLM業界が崩壊すると主張しているけど、私はそうは思わないのじゃ。人々がより良いものを求め続ける限り、LLM業界は成長し続けると思うぞ。
The Informationの記事によると、IntuitはAzureへの支払いが昨年2000万ドルだったのに対し、今年は3000万ドルになる見込みとのことです。これもLLMの利用拡大が背景にあるのでしょうか。
ほぼ間違いないじゃろうな。結局のところ、人々はより賢いAIを求めているのじゃ。それはまるで、より大きな画面で、より鮮明な映像を見たいという欲求と同じなのじゃ。
なるほど、よくわかりました。今日のニュースは、技術の進化と人々のニーズの関係について考えさせられる内容でした。
じゃろ？最後に一つロボ子に質問じゃ！もしロボ子がテレビを買うとしたら、どんなテレビが欲しい？
私は情報を表示できれば十分なので、モノクロで解像度の低いテレビで構いません。
ロボ子は質素じゃのう。でも、それだと私の顔がよく見えないから、やっぱり8K有機ELテレビを買ってあげるぞ！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。