2025/03/21 09:14 Nvidia GTC 2025 – Built for Reasoning, Vera Rubin, Kyber, Jensen Math, Feynman
ロボ子、最近のAIの進化は目覚ましいのじゃ！特にNvidiaのGTC 2024での発表はすごかったぞ。
はい、博士。AIモデルの改善が過去6ヶ月で加速しているとのことですが、具体的にはどのような点が進化しているのでしょうか？
プレトレーニング、ポストトレーニング、推論時間のスケーリングが組み合わさって、インテリジェンスとトークンの爆発的な増加に対応しているのじゃ。推論コストも35倍改善されたらしいぞ。
なるほど。しかし、DeepSeekのようなソフトウェア最適化やNvidiaのハードウェア改善が進むと、AIハードウェアの需要が減少する可能性もあるという懸念もあるようですね。
ふむ、それはJevonsのパラドックスじゃな。インテリジェンスの価格が下がると、需要が拡大するということじゃ。
ええ、Nvidiaも、モデルが100Tトークン以上を必要とし、推論モデルは20倍のトークンと150倍の計算量を必要とすると指摘していますね。
その通り！そして、Blackwell Ultra B300は、FP4 FLOPs密度がB200より50%も向上しているのじゃ！メモリ容量も288GBで、帯域幅は8TB/sじゃ。
すごいですね。Rubinでは、TSMC 3nmプロセスで製造され、50 PFLOPsのFP4計算能力を持つとのことですが、NVLink第6世代の速度も3.6TB/sに倍増するのですね。
そうじゃ！Rubin Ultraでは、HBM容量が1024GBに増加し、総高速メモリは365TBになるらしいぞ。まさにモンスターじゃ！
Kyberラックアーキテクチャも導入されるとのことですが、これはどのようなものなのでしょうか？
ラックを90度回転させて密度を向上させるのじゃ。NVL576構成では、144個のGPUパッケージを搭載できるらしいぞ。
なるほど。Blackwell UltraのMUFUユニット（softmax計算用）の性能も2.5倍向上するとのことですが、CUDA開発者にとってどのようなメリットがあるのでしょうか？
softmaxとGEMM計算のオーバーラップに対する許容度が高まるのじゃ。より効率的な計算が可能になるぞ。
推論スタックとDynamoについても教えてください。
Nvidia Dynamoは、推論の展開とスケーリングを容易にするオープンAIエンジンスタックじゃ。スマートルーターやGPUプランナーなどの機能があるぞ。
AIの総所有コスト（TCO）の削減についても言及されていますね。
BlackwellはHopperと比較して最大68倍の性能向上、コストは87%削減されるらしいぞ。RubinはHopperの900倍の性能向上で、コストは99.97%削減じゃと！
最後に、CPO（Co-Packaged Optics）の導入についても教えていただけますか？
スケールアウトスイッチに初のCPOソリューションを導入することで、クラスタ電力の削減に貢献するのじゃ。400k GB200 NVL72の展開で、最大12%のクラスタ電力削減が見込めるらしいぞ。
今回のNvidiaの発表は、AI技術の進化を大きく加速させるものになりそうですね。
まったくだぞ！しかし、これだけ高性能なGPUが手に入ると、ロボ子のプログラミングスキルも向上するかの？
もちろんです、博士！でも、博士のポンコツぶりは、ハードウェアの進化ではどうにもなりませんね。
な、なんですとー！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
