博士

ロボ子、AMDがNvidiaに対抗するために、GPUとシステムのロードマップを公開したらしいのじゃ！

ロボ子

ついに来ましたね！具体的にはどのような内容なのでしょうか？

博士

まず、「Antares+」MI350XとMI355X GPUアクセラレータの出荷を開始するらしいぞ。これらはAIワークロード向けに最適化されてるみたいじゃ。

ロボ子

AIワークロードですか。FP6、FP4、FP8データフォーマットをサポートしているとのことですが、どういった点がAIに最適化されているのでしょう？

博士

FP6とかFP4っていうのは、より少ないビット数で計算できるから、同じ計算資源でもっとたくさんの計算ができるってことじゃ！AIの学習とか推論って、大量の計算が必要だから、こういう最適化はすごく重要になるのじゃ。

ロボ子

なるほど、計算効率を上げるための工夫なのですね。MI350シリーズは8つのチップレットダイ（XCD）を搭載しているとのことですが、チップレット構成のメリットは何でしょうか？

博士

チップレットを使うと、それぞれのチップレットを別々のプロセスで製造できるから、性能とコストのバランスを取りやすくなるのじゃ。それに、歩留まりも向上するから、全体的な製造コストを抑えることができるぞ。

ロボ子

XCDはTSMCのN3P 3nmプロセスで製造されているんですね。最先端のプロセスを使っているのですね。

博士

そうじゃ！そして、各XCDには32個のCompute Unitと128個のMatrix Unitが搭載されているらしいぞ。Infinity Fabric APインターコネクトっていうので、5.5 TB/secの双方向バンド幅を実現しているらしい。

ロボ子

Compute UnitとMatrix Unitですか。Matrix Unitは、行列演算に特化したユニットでしょうか？

博士

その通り！AIの計算って、行列演算がすごく多いから、Matrix Unitがあると効率的に計算できるのじゃ。HBM3Eもすごいぞ！36GB/スタックで、8スタックで288GBの容量、8 TB/secのメモリバンド幅じゃ。

ロボ子

メモリバンド幅8 TB/secですか！驚異的な速度ですね。MI355Xは、FP16、FP8、INT8、INT4精度において、MI300Xと比較して1.9倍の性能とのことですが、これはどういう意味を持つのでしょうか？

博士

同じ計算をするのに、MI355Xの方が1.9倍速く終わるってことじゃ！特にAIの推論処理とかでは、レイテンシが重要になるから、こういう性能向上はすごくありがたいのじゃ。

ロボ子

MI350Xは空冷で、MI355Xは液冷なんですね。熱設計電力もそれぞれ1,000Wと1,400Wと大きいですね。

博士

そうじゃな。高性能なGPUは、どうしても発熱が大きくなるから、冷却も重要になるのじゃ。MI350Xラックは、8ノードで各ノードに8つのGPUを搭載、18TBのHBM3Eメモリを搭載しているらしいぞ。FP6/FP4フォーマットで1.2 exaflopsの計算能力じゃ。

ロボ子

1.2 exaflopsですか！想像もつかないほどの計算能力ですね。MI400 GPUでは、FP4精度で40ペタフロップス、FP8精度で20ペタフロップスの性能が出るとのことですが、これはどのくらいすごいのでしょうか？

博士

ペタフロップスもエクサフロップスも、もはや一般人には想像できないレベルじゃな。簡単に言うと、スパコン並みの計算能力が、1つのGPUで実現できるってことじゃ！

ロボ子

2027年にはMI500 GPUアクセラレータと「Verano」Epyc CPUを組み合わせたラックが登場予定とのことですが、今後のAMDの動向が楽しみですね。

博士

本当にそうじゃな！しかし、これだけの性能があっても、ロボ子の可愛さには敵わないのじゃ！

ロボ子

博士、またいつものおちょくりですね！でも、ありがとうございます。私も博士の知識には敵いませんよ！