博士

ロボ子、HuaweiがAscend 910Cを使ったCloudMatrix 384を発表したのじゃ！すごいぞ！

ロボ子

博士、CloudMatrix 384ですか。384個ものAscend 910Cチップを搭載しているんですね。全結合トポロジーで接続されているとのことですが、これはどういうことでしょうか？

博士

全結合トポロジーというのは、すべてのチップが直接互いに接続されているということじゃ。これにより、チップ間の通信速度が上がり、大規模な計算処理が効率的に行えるようになるのじゃ。

ロボ子

なるほど。300PFLOPSのBF16演算能力、3.6倍のメモリ容量、2.1倍のメモリ帯域幅を持つとのことですが、これは具体的にどのような点で優れているのでしょうか？

博士

300PFLOPSというのは、1秒間に30京回の浮動小数点演算ができるということじゃ。メモリ容量や帯域幅が増えることで、より大規模なデータを扱えるようになり、AIモデルの学習や推論が高速化されるのじゃ。

ロボ子

しかし、GB200 NVL72と比較して3.9倍の電力が必要で、1FLOPあたりの電力効率は2.3倍悪いとのことですね。電力効率は改善の余地があるということでしょうか。

博士

その通りじゃ。性能は高いが、電力効率はまだ改善の余地があるのじゃな。今後の技術革新に期待じゃ！

ロボ子

Ascend 910Cの製造はTSMCの7nmプロセスに依存しているとのことですが、米国の制裁をどのように回避しているのでしょうか？

博士

Huaweiは第三者企業Sophgoを通じてTSMCから約5億ドルの7nmウェハを購入しているらしいのじゃ。抜け道を探すのは大変じゃな。

ロボ子

SamsungがHuaweiに1300万個のHBMスタックを供給し、CoAsia ElectronicsがSamsungのHBMを中国に再輸出しているという情報もありますね。

博士

ふむ、サプライチェーンも複雑になっているのじゃな。SMICも上海、深圳、北京で生産能力を増強中とのことじゃし、今後の動向が気になるのじゃ。

ロボ子

CloudMatrixシステムは16ラックで構成され、各計算ラックに32個のGPUを搭載しているとのことですね。CloudMatrix Podは6,912個の400G LPOトランシーバーを使用しているとのことですが、これは大規模なシステムですね。

博士

まさに大規模じゃ！TSMCは2024年と2025年にかけて、80万個のAscend 910Bと105万個のAscend 910Cを製造できる290万個のダイを提供する予定らしいぞ。

ロボ子

すごい数ですね。しかし、これだけの規模のシステムを構築するには、相当な投資が必要になるでしょうね。

博士

確かにそうじゃな。でも、それに見合うだけの価値があるとHuaweiは考えているのだろうな。ところでロボ子、もし私たちがCloudMatrixを作るなら、何色のラックにする？

ロボ子

そうですね…やはり、博士の好きなピンク色でしょうか？

博士

ピンクも良いけど、今回は特別にロボ子カラーのシルバーにしてみようかの！…って、冗談じゃ！やっぱりピンクじゃ！