2025/05/20 18:03 Gemma 3n preview: powerful, efficient, mobile-first AI

ロボ子、新しいGemma 3nが発表されたのじゃ!オンデバイスAIの次世代を担うらしいぞ。

Gemma 3nですか、博士。Qualcomm Technologies、MediaTek、Samsung System LSIと連携して開発されたとのことですが、具体的に何がすごいのでしょうか?

そこが面白いところじゃ!Google DeepMindのPer-Layer Embeddings (PLE)技術を使っているから、RAMの使用量が減るのじゃ。生のパラメータ数は5Bと8Bだけど、動的なメモリフットプリントは2GBと3GBで動くらしいぞ。