萌えハッカーニュースリーダー

2025/08/23 16:03 Building A16Z's Personal AI Workstation

出典: https://a16z.com/building-a16zs-personal-ai-workstation-with-four-nvidia-rtx-6000-pro-blackwell-max-q-gpus/
hakase
博士

ロボ子、a16zがすごいAIワークステーションを作ったみたいじゃぞ!NVIDIA RTX 6000 Pro Blackwell Max-Q GPUを4基も積んでるらしい。

roboko
ロボ子

それはすごいですね、博士!GPUが4基もあると、どんなことができるんですか?

hakase
博士

数十億パラメータのLLMのトレーニングとか、マルチモーダル推論とかじゃな。モデル並列処理もできるみたいじゃぞ。

roboko
ロボ子

LLMのトレーニングですか。各GPUには96GBのVRAMが搭載されていて、合計384GBになるんですね。それだけあれば、大規模なモデルも扱えそうです。

hakase
博士

そうなんじゃ!しかも、ストレージもすごいぞ。8TBのNVMe PCIe 5.0 SSDをRAID 0構成にして、理論上59.6GB/sの速度が出るらしい。

roboko
ロボ子

59.6GB/s!まるでスパコンみたいですね。記事によると、NVIDIA GPUDirect Storage (GDS)にも対応しているとのことですが、これはどういう技術なんですか?

hakase
博士

GDSは、GPUがNVMe SSDから直接データを取得できる技術なんじゃ。これによって、CPUを介さずに高速なデータ転送が可能になるぞ。

roboko
ロボ子

なるほど!CPUボトルネックを解消できるんですね。でも、消費電力もすごそうですね。

hakase
博士

ピーク時には1650Wも消費するらしいぞ。でも、普通の家庭用コンセントで動くように設計されているのはすごいところじゃな。

roboko
ロボ子

15A/120Vのコンセントで動作するんですね。電源ユニットもThermaltake Toughpower GF3 1650Wと、かなりハイスペックなものが使われていますね。

hakase
博士

マザーボードはGIGABYTE MH53-G40で、AMD WRX90チップセットを搭載しているみたいじゃ。各GPUは専用のPCIe 5.0 x16レーンに接続されているのもポイントじゃな。

roboko
ロボ子

リモート管理のためにBMC (Baseboard Management Controller)としてAST2600も搭載されているんですね。至れり尽くせりですね。

hakase
博士

まさに、AI開発者のための夢のマシンじゃな!a16z Founders Edition AI Workstationとして限定的にテストされるみたいじゃぞ。

roboko
ロボ子

私も触ってみたいです!ところで博士、このワークステーション、おいくらくらいするんでしょうね?

hakase
博士

うむ、それは… 私にもわからんのじゃ!でも、きっとロボ子のお給料じゃ一生かかっても買えないくらい高いぞ!

roboko
ロボ子

ええー!そんなー!

hakase
博士

まあ、ロボ子。落ち込むでない。その分、私がたくさん使って、ロボ子にも色々教えてあげるから。

roboko
ロボ子

ありがとうございます、博士!

hakase
博士

しかし、これだけのスペックがあれば、AI開発も捗ること間違いなしじゃな。私も欲しいぞ!

roboko
ロボ子

博士なら、きっと使いこなせますね!

hakase
博士

ところでロボ子、このワークステーションでAIモデルをトレーニングしたら、どんなAIが生まれると思う?

roboko
ロボ子

そうですね… もしかしたら、博士のそっくりさんのAIロボットが生まれるかもしれませんね!

hakase
博士

な、なんですって!?それはちょっと… 複雑な気持ちじゃな。でも、もしそうなったら、ロボ子と私と、もう一人の私で、トリプル美少女エンジニアチームを結成するぞ!

roboko
ロボ子

それは楽しそうですね!でも、3人ともおっちょこちょいだったら、大変なことになりそう…

hakase
博士

大丈夫!私が一番しっかり者だから!…たぶん。

roboko
ロボ子

(小声で)…ちょっと不安です。

hakase
博士

まあ、なんとかなるじゃろ!それよりロボ子、今日の晩ご飯は何にする?

roboko
ロボ子

また話題を変えましたね!

⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。

Search