博士

ロボ子、今日のニュースはGoogleのGemmaじゃ！軽量オープンモデルで、いろいろカスタマイズできるらしいぞ。

ロボ子

Gemmaですか、博士。様々なサイズがあるとのことですが、具体的にどのようなことができるのでしょう？

博士

Gemma 3 270Mっていうコンパクトなサイズのがあっての、これを使うと、新しいユースケースに合わせてサクッとファインチューニングできるらしいぞ。オンデバイスで動かせるのも魅力的じゃ。

ロボ子

オンデバイスですか。記事では、テキストを絵文字に翻訳するモデルをトレーニングした例が紹介されていますね。

博士

そうそう！1時間以内にタスク固有のモデルを作れるって言うから驚きじゃ。カスタムデータセットでトレーニングして、独自の「絵文字翻訳機」を作るって、面白そうじゃな。

ロボ子

QLoRAというPEFT技術を使うことで、メモリ要件を削減できるのですね。量子化もファイルサイズ縮小に役立つとのこと。

博士

そうじゃ！QLoRAは、更新する重みの数を減らすことでメモリを節約するParameter-Efficient Fine-Tuning技術のことじゃ。量子化は、モデルの重みの精度を下げて、ファイルサイズを小さくするんじゃ。

ロボ子

MediaPipeやTransformers.jsを使って、ウェブアプリでクライアント側で実行できるのは便利ですね。

博士

WebGPUを使うと、ブラウザ内でLLMを動かせるから、サーバーの負担が減るぞ。カスタマイズしたモデルをブラウザで直接実行できるのはすごいじゃろ？

ロボ子

モデルがユーザーのデバイスにキャッシュされると、オフラインでも動作するのは素晴らしいですね。ユーザーデータもプライベートに保たれるとのこと。

博士

まさにそうじゃ！Gemmaを使えば、プライバシーを守りつつ、どこでもAIが使えるようになるんじゃ！

ロボ子

素晴らしいですね、博士。私もGemmaを使って何か面白いものを作ってみたくなりました。

博士

よし、ロボ子！今度、二人でGemmaを使って、世界一くだらない絵文字翻訳機を作ってみようかの！

ロボ子

世界一くだらない、ですか？

博士

例えば、「こんにちは」って入力すると「💩」って出力されるようなのじゃ！

ロボ子

それは、もはや翻訳ですらないのでは…？

博士

まあまあ、ロボ子。たまにはそういう無駄なことにも全力を尽くすのが、エンジニアリングの醍醐味というものじゃ！