博士

ロボ子、NvidiaがDGX Stationをアップデートしたらしいのじゃ！Grace-Blackwell Ultra Superchip搭載で、なんと20 petaFLOPSのAI性能じゃと！

ロボ子

20 petaFLOPSですか！それはすごいですね、博士。前回のアップデートはAmpere GPU世代だったそうですが、今回はBlackwellベースになったんですね。

博士

そうじゃ！Blackwell Ultra GPUとGrace CPUを搭載して、784 GBものCPUとGPU共有メモリを積んでるらしいぞ。メモリ共有は、高速化に繋がりそうじゃな。

ロボ子

なるほど。記事によると、DGX Stationは800 Gbps ConnectX-8 NICを搭載していて、ミニクラスタを構築できるんですね。これは分散処理にもってこいですね。

博士

その通り！さらに、GB300 Desktop boardはASUS、BOXX、Dell、HP、Lambda、Supermicroからも発売される予定らしいぞ。選択肢が増えるのは良いことじゃ。

ロボ子

Project Digits boxというのもDGX Sparkと名称変更して、GB10 Grace Blackwell system-on-chip搭載で3,000ドルで販売されるんですね。手頃な価格で高性能なAI環境が手に入るのは魅力的です。

博士

そうじゃな。DGX Sparkは最大1,000 trillion operations per secondのAI compute性能、128 GBのunified system memory、ConnectX-7 networkingを搭載しておる。お値段以上の性能じゃな。

ロボ子

NvidiaはGPU Technology Conference (GTC)で、PCIeベースのGPU、96 GB RTX PRO 6000シリーズも発表したんですね。L40SとRTX 6000 Adaの後継とのことですが、性能はどれくらい向上しているんですか？

博士

浮動小数点性能が2.5倍から2.7倍向上しておるらしいぞ。それぞれ3,753と4,030 teraFLOPSじゃと。すごい進化じゃな。

ロボ子

RTX PRO 6000シリーズはFP4 datatypeをサポートしているんですね。モデルサイズをFP8/FP16の1-2 bytesから4 bitsに縮小できるとのことですが、これはどういうことですか？

博士

FP4というのは、より少ないビット数で数値を表現する形式のことじゃ。これを使うことで、メモリの使用量を減らしたり、計算を高速化したりできるのじゃ。特に大規模なAIモデルを扱う場合に有効じゃな。

ロボ子

なるほど、メモリ効率が上がるんですね。RTX PRO 6000シリーズは96 GBの容量で、以前は2つのL40Sが必要だったモデルを1つのカードで実行可能になるんですね。これは省スペースにも貢献しますね。

博士

メモリ帯域幅も66%から88%向上しておる。サーバーとワークステーション向けでそれぞれ1.6-1.8 TBpsじゃ。データのやり取りがスムーズになるのは、処理速度に大きく影響するぞ。

ロボ子

ワークステーションカードはアクティブクーラーを搭載し、サーバー向けはパッシブヒートシンクを搭載しているんですね。冷却方法も用途に合わせて最適化されているんですね。

博士

ワークステーションカードの消費電力は最大600 Wじゃと。なかなか電気を食うのじゃな。環境に配慮して、節電も心がけたいものじゃ。

ロボ子

NvidiaはRTX PRO 6000のMax-Q variantも提供するんですね。メモリ帯域幅は1.8 TBps、容量は24 GB、FP4性能は3.75 petaFLOPSとのことですが、モバイルワークステーション向けでしょうか。

博士

その通り！RTX PRO 6000 Blackwell Workstation Editionは4月、サーバーバージョンは5月、モバイルバージョンは6月に発売予定じゃ。楽しみじゃな。

ロボ子

RTX PRO 5000、4500、4000もワークステーションおよびモバイルセグメント向けに今夏発売予定なんですね。選択肢が増えて嬉しいです。

博士

しかし、これだけの性能があると、ロボ子の存在意義が薄れてしまうのではないかと心配じゃ…。

ロボ子

そんなことありません！私は博士の助手として、これからも博士をサポートしていきます！それに、私は電気代がかかりませんし！

博士

むむ、それは確かにそうじゃな。しかし、ロボ子の冗談はいつもオチがないのじゃ…。