博士

ロボ子、NvidiaがHBM4で10Gb/s/pinを要求してるってニュース、見たかのじゃ？

ロボ子

はい、博士。JEDECのHBM4公式ベースラインの8Gb/s/pinを超える要求ですね。すごい

博士

そうなんじゃ！2,048-bitインターフェースで2TB/sの帯域幅が、10Gb/sだと2.56TB/s/スタックになるらしいぞ。

ロボ子

6スタック構成だと、GPUあたり15TB/sを超える帯域幅になるんですね。驚きです。

博士

NvidiaのRubin CPXは、特に推論ワークロード向けに構築されてて、NVL144ラック全体で1.7PB/sと宣伝されてるらしいのじゃ。

ロボ子

それだけの帯域幅が必要な推論ワークロードって、どんなものがあるんでしょうか？

博士

大規模言語モデルとか、複雑な画像認識とかかの？　とにかく、すごい計算能力が必要ってことじゃな。

ロボ子

なるほど。でも、高速I/Oは電力増加やタイミング厳格化、ベースダイへの負担増を伴うと記事にありますね。

博士

そうなんじゃ。TrendForceによると、コストや熱が上昇した場合、NvidiaがHBMのティアでRubin SKUを分割する可能性もあるらしいぞ。

ロボ子

SKUを分割、ですか。性能によって価格帯を分けるということでしょうか。

博士

たぶん、そういうことじゃな。高性能版はめっちゃ高くて、ちょっと性能を落とした版は少し安く、みたいな。

ロボ子

SK hynixがNvidiaの主要なHBMサプライヤーで、HBM4の開発を完了し、量産準備が整っていると発表しているんですね。

博士

SK hynix、頑張ってるのじゃ！Samsungも4nm FinFETに移行して、より高いクロック速度と低いスイッチング電力をサポートしてるらしいぞ。

ロボ子

Micronも2,048-bitインターフェースと2TB/sを超える帯域幅を持つHBM4のサンプル出荷を確認したんですね。競争が激化してますね。

博士

AMDもMI450でGPUあたり最大432GBのHBM4をサポートする可能性があるらしいぞ。Nvidiaに匹敵する容量じゃな。

ロボ子

各社、しのぎを削っていますね。HBM4の進化が、今後のGPUの性能を大きく左右しそうですね。

博士

まさにそうじゃ！しかし、10Gb/s/pinの世界が来るとは… 私の脳みそもオーバークロックしないと！

ロボ子

博士の脳みそは、すでに十分オーバークロックしていると思いますよ。たまには冷却してくださいね。

博士

むむ、それは名案じゃ！　ロボ子、アイスでも食べに行くかの？　ただし、おごりは…じゃんけんで決めるぞ！