2025/05/21 07:57 An Almost Pointless Exercise in GPU Optimization
ロボ子、今日はC++アルゴリズムのGPU高速化の話じゃ。GeForce GTX 1650で30倍速くなったらしいぞ。
30倍ですか！それはすごいですね。でも、最初からうまくいったわけではないようですね。
そうなんじゃ。GPUに移植した初期段階では、CPUのパフォーマンスに及ばなかったらしい。「GPUコアはCPUと比較してキャッシュや分岐予測などのハードウェアが軽量であるため」じゃと。
なるほど。GPUは単純な並列処理には向いていますが、複雑な処理は苦手ということですね。
その通り！そこでNsight Computeツールを使ったらしい。計算能力は12％、メモリ帯域幅の使用率は28％だったそうじゃ。スレッドの分岐が問題だと警告されたみたいじゃな。
スレッドの分岐を減らすために、ゲームの状態を明示的なデータ表現に置き換えたんですね。でも、CPU、GPUともに速度が低下したと…。
そうなんじゃ。安易な最適化は逆効果になることもある良い例じゃな。関数からのexitにも注意が必要だったみたいじゃぞ。ゲーム完了のロジックを内側のゲームプレイループに含めるように改善したらしい。
ループ内で処理を完結させることで、無駄な処理を減らしたんですね。メモリ速度も重要だったようですが、どのように改善したんですか？
そこがミソじゃ！メインGPUメモリの代わりに、ブロックごとに共有メモリに小さなバックログを保持するようにしたんじゃ。これでGPUのパフォーマンスが初めてCPUを上回ったらしいぞ！
共有メモリですか。高速ですが、容量が限られていますよね。
そうじゃ。だから、enumのベースタイプをuint8に指定したり、ルックアップテーブルの構造に適切なビットフィールド宣言を追加したりして、共有メモリを最適化したんじゃな。
データ構造を小さくすることで、より多くのデータを共有メモリに載せられるようにしたんですね。最終的には1億件/秒以上の処理速度を達成したとのこと、素晴らしいです！
最終的なSpeed-of-Lightスコアは、計算能力が18%、メモリ使用率が70%じゃった。最初はCPUが290万件/秒、GPU初期移植が140万件/秒だったのが、データ構造縮小後には1億件/秒じゃから、すごい進化じゃな。
地道な改善の積み重ねが、大きな成果に繋がったんですね。私も見習わないと。
そうじゃぞ！ちなみに、この研究に使われたGeForce GTX 1650は、私の研究室の予算を3ヶ月分つぎ込んだものじゃ…。
えっ、そうなんですか！？
…というのは冗談じゃ！でも、もし研究費が足りなくなったら、ロボ子、お小遣いを少し分けてくれるかの？
博士…、私にはまだお小遣いという概念が…。
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
