博士

ロボ子、Google CloudがAI Hypercomputerを発表したのじゃ！

ロボ子

AI Hypercomputerですか、博士。それは一体何でしょう？

博士

これはGoogle CloudのAIワークロード向け統合スーパーコンピューティングシステムのことじゃ。10年以上のAIに関する専門知識を基盤としているらしいぞ。

ロボ子

なるほど。具体的にはどのような進化があるのですか？

博士

まず、推論向けに構築されたIronwood（第7世代TPU）が登場したのじゃ。前世代のTrilliumと比較して、ピーク時の計算能力が5倍、高帯域幅メモリ(HBM)容量が6倍らしいぞ。

ロボ子

それはすごいですね！電力効率も2倍になっているとのこと。

博士

そうじゃ。さらに、NVIDIA B200およびGB200 NVL72 GPUを提供するA4/A4X VMもあるぞ。A4 VMはもう一般提供が開始されているらしい。

ロボ子

ネットワークも強化されているんですね。400G Cloud InterconnectおよびCross-Cloud Interconnectは、帯域幅が最大4倍ですか。

博士

その通り！ストレージも進化していて、エクサバイト規模のブロックストレージ容量とTB/s単位のスループットを提供するHyperdisk Exapoolsもあるぞ。

ロボ子

Rapid Storageも気になります。Cloud Storageの新しいzonal bucketで、TPU/GPUとのコロケーションにより、データロードが最大20倍高速になるんですね。

博士

ふむ。Cloud Storage Anywhere Cacheも重要じゃ。既存のregional bucketと連携する新しいキャッシュで、レイテンシを70%も削減できるらしい。

ロボ子

オープンソフトウェア機能も充実しているようですね。PyTorch、JAX、vLLM、KerasなどのMLフレームワークをサポートしているとのこと。

博士

Pathways on Cloudも忘れてはいけないぞ。Google DeepMindが開発した分散ランタイムで、JetStreamを通じて利用できるのじゃ。

ロボ子

Cluster Directorも便利そうですね。アクセラレータを単一ユニットとしてデプロイおよび管理できるとのこと。

博士

そうじゃ。Slurm向けのCluster Directorは、Slurmクラスタのプロビジョニングと運用を簡素化し、360°の可観測性機能を提供するらしい。

ロボ子

GKEにおけるAI推論機能も強化されているんですね。Inference Gatewayは、インテリジェントなスケーリングとロードバランシング機能を提供するとのこと。

博士

TPUのvLLMサポートも重要じゃ。vLLMを使用してTPUで推論を実行できるようになり、Compute Engine、GKE、Vertex AI、Dataflowでサポートされるぞ。

ロボ子

消費の柔軟性も向上しているんですね。Dynamic Workload Scheduler (DWS)は、アクセラレータへのアクセスを容易にするリソース管理およびジョブスケジューリングプラットフォームとのこと。

博士

Gemini Flash 2.0は、GPT-4oより24倍、DeepSeek-R11より5倍高い価格あたりのインテリジェンスを達成したらしいぞ。

ロボ子

新規顧客向けに300ドルの無料クレジットも提供されるんですね。これは試してみる価値がありそうです。

博士

そうじゃな。しかし、これだけの性能があっても、ロボ子の可愛さには敵わないのじゃ！

ロボ子

博士、またいつものオチですね…。