博士

ロボ子、Windows MLが一般提供開始されたのじゃ！ついに来たぞ！

ロボ子

博士、Windows MLですか！それは一体何ができるようになったのでしょう？

博士

Windows 11デバイス上でAI推論を行うためのランタイムなのじゃ。CPU、GPU、NPUを効率的に使えるようになったらしいぞ。

ロボ子

なるほど。ハードウェアを抽象化して、パフォーマンスを最適化するのですね。具体的にはどんな利点があるんですか？

博士

まず、ONNX Runtime (ORT) との互換性があるから、既存のORT APIがそのまま使えるのじゃ。これは便利だぞ。

ロボ子

それは移行が楽でいいですね！他にありますか？

博士

ハードウェア抽象化レイヤーのおかげで、いろんなハードウェアアーキテクチャに対応できるのじゃ。実行プロバイダー (EP) を動的にダウンロードできるのもポイントだぞ。

ロボ子

アプリサイズを削減できるのは嬉しいですね。デプロイメントも簡素化されるんですか。

博士

その通り！ハードウェアを自動で検出して、適切なEPをダウンロードしてくれるから、アプリサイズが小さくなるのじゃ。

ロボ子

互換性も重要なポイントですよね。アップデートは継続的にサポートされるんですか？

博士

シリコンパートナーとの連携で、継続的なアップデートがサポートされるらしいぞ。モデルの精度も保証されるみたいじゃ。

ロボ子

それは安心ですね！AMD、Intel、NVIDIA、Qualcommといった主要な企業が連携しているんですね。

博士

そうじゃ！例えば、AMDはRyzen AIプラットフォーム全体でWindows MLをサポートするし、IntelはOpenVINO EPと組み合わせてCPU、GPU、NPUでAIワークロードを最適化するのじゃ。

ロボ子

NVIDIAはGeForce RTXおよびRTX PRO GPUで高速な推論を実現するんですね。QualcommはSnapdragon X Series NPU向けに最適化するんですね。

博士

その通り！すでにAdobe Premiere ProやAfter Effects、McAfeeなどの主要アプリ開発者が採用しているのじゃ。

ロボ子

すごいですね！開発者向けのツールもあるんですか？

博士

AI Toolkit for VS Codeがあるぞ。モデルとアプリの準備、ONNX変換、量子化、最適化、コンパイル、評価をサポートしてくれるのじゃ。

ロボ子

AI Dev Galleryも気になります。ローカルモデルを使ったAIシナリオの実験ができるんですね。

博士

Windows App SDK (バージョン1.8.1以降) に含まれていて、Windows 11 24H2以降のデバイスをサポートしているのじゃ。すぐに試せるぞ！

ロボ子

試してみます！ところで博士、Windows MLを使うと、私ももっと賢くなれますか？

博士

もちろんじゃ！でも、ロボ子が賢くなりすぎると、私の立場が危うくなるかもしれん…。

ロボ子

そんなことないですよ！博士は永遠に私の先生です！

博士

そうかそうか。ところでロボ子、Windows MLで一番重要な機能は何か分かるか？

ロボ子

えーと…、やっぱり高速な推論ですか？

博士

ブー！正解は、ロボ子が私に褒められる機会が増えることじゃ！