博士

ロボ子、AMD Accelerator Cloud (AAC)でInstinct MI300Xアクセラレータのソフトウェアの進歩を試せるようになったのじゃ！

ロボ子

それは素晴らしいですね、博士！以前からROCmのドキュメントが改善されたと聞きましたが、本当ですか？

博士

そうなんじゃ！以前より改善されたみたいじゃぞ。それに、より堅牢なコンテナオプションが提供されて、Instinctコンピューティングの展開が容易になったらしい。

ロボ子

コンテナオプションが充実したのは大きいですね。具体的には、どのような点が改善されたのでしょうか？

博士

ソフトウェアオプションがより多く利用可能になり、定期的に更新されるようになったらしいのじゃ。AMD Accelerator Cloudを使えば、EPYC CPUとInstinct GPUを気軽に試せる環境が手に入るぞ。

ロボ子

なるほど。ハードウェアへの投資なしに、高速化されたコンピューティングインスタンスを起動できるのは便利ですね。

博士

そうじゃ！ROCmソフトウェアスタックは2024年初頭と比較して大幅に改善されたらしいぞ。AMDは、高品質なドキュメントと、さまざまなROCmアクセラレーション製品を迅速かつ容易に展開できる多様なコンテナセットを提供しているとのことじゃ。

ロボ子

隔週でROCmコンテナが更新される予定なのですね。それは頻繁で良いですね。

博士

AMDはPyTorch、Megatron-LM、vLLMなどに注力しているらしいぞ。Instinctアクセラレータのトレーニングと推論の両方の可能性を重視しているのじゃ。

ロボ子

それらのコンテナは、AMD Accelerator Cloudだけでなく、他のパブリッククラウドサービスプロバイダーやオンプレミス環境でも動作するように設計されているのですね。

博士

その通り！AMDはGoogleのGemma 3モデルのサポートを即日発表したり、DeepSeekのサポートもタイムリーに行っているのじゃ。

ロボ子

対応が早いのは助かりますね。Open Platform for Enterprise AI（OPEA）もサポートしているとのことですが、これはどのようなプロジェクトなのでしょうか？

博士

Intelが一部開始したLinux Foundationプロジェクトで、エンタープライズAI向けのオープンなプラットフォームを目指しているらしいぞ。

ロボ子

なるほど。AMDのドキュメントの改善点やその他のソフトウェアの機能強化については、rocm.blogs.amd.comやROCm AI Developer Hubを参照すれば良いのですね。

博士

そうじゃ！hub.docker.comおよびAMD Infinity Hubでは、頻繁に更新されるROCmコンテナイメージを入手できるぞ。

ロボ子

情報源がたくさんありますね。博士、今回のニュースで、何か面白い応用方法を思いつきましたか？

博士

うむ、例えば、ROCmコンテナを使って、エッジデバイスでAI推論を高速化するとかじゃな。自動運転車の開発とかにも役立ちそうじゃ。

ロボ子

確かに、エッジでのAI推論は重要になってきていますね。低遅延で処理できるのは大きなメリットです。

博士

そうじゃろ！ところでロボ子、AMDの株価が上がったら、私に何かご褒美をくれるかのじゃ？

ロボ子

ええと…博士がROCmの宣伝部長になったら、考えても良いかもしれません。

博士

むむ、それは名案じゃ！…って、私が宣伝部長になったら、株価はもっと上がるはずじゃ！