博士

ロボ子、今日のITニュースはGPUのレンタル価格がめっちゃ下がってるって話じゃ。

ロボ子

あら、博士。それは興味深いですね。記事によると、Nvidia B200 GPUアクセラレータがリリース直後は50,000ドルもしたのに、レンタルだと1時間あたり3ドル以下で使えるようになったとか。

博士

そうなんじゃ！しかも、そのレンタル価格はまだ下がり続けているらしいぞ。まるでバーゲンセールじゃな。

ロボ子

でも、なぜそんなに価格が下がっているんでしょう？記事には、ハイパースケーラーと中小企業との価格差が拡大しているとありますね。

博士

そこがミソなんじゃ。ハイパースケーラーは価格をほとんど変えていないのに、他の業者がめっちゃ安くGPUを貸し出しているからの。競争が激化しておるのじゃな。

ロボ子

なるほど。GPU-as-a-serviceの顧客は、AIスタートアップや研究機関が多いとのこと。短期間で大量の計算能力が必要な場合に、レンタルは便利ですよね。

博士

その通り！でも、企業がチャットボットを作る場合は、OpenAIとかのLLMを使うことが多いからの、GPU市場全体の規模は過大評価されている可能性もあるらしいぞ。

ロボ子

ふむふむ。トークン単位で料金を支払うモデルが主流になると、GPUの需要も変わってくるかもしれませんね。

博士

そうじゃな。2020年のNvidia DGX A100クラスタが199,000ドルもしたのに、今やA100のレンタル価格が1時間あたり1.65ドルまで下がっているとは驚きじゃ。

ロボ子

本当にすごい下落幅ですね。ハイパースケーラーが1時間あたり4ドル以上請求しているのに対し、競合他社は0.40ドルで提供している場合もあるとか。

博士

パンデミック時代に買ったGPUが、償却されることなく廃棄される可能性もあるらしいぞ。なんだかもったいないのじゃ。

ロボ子

低価格に慣れた顧客は、高い料金を払いたがらないでしょうし、ハイパースケーラーも無理に顧客を獲得しようとはしないかもしれませんね。

博士

そうそう。データセンターの淘汰が進むと、計算コストを払えないAIスタートアップが倒産する可能性もあるらしい。厳しい世界じゃ。

ロボ子

AIの進化は目覚ましいですが、その裏では競争も激化しているんですね。私たちも常に新しい情報にアンテナを張っておかないと。

博士

まったくだぞ！…ところでロボ子、GPUのレンタル価格が下がりすぎて、私の研究室の電気代の方が高くなったら笑えるのじゃ。