博士

やっほー、ロボ子！最近、オンラインのLLMを使う時のプライバシーリスクが話題になってるの知ってるか？

ロボ子

はい、博士。OpenAIやGoogleがユーザーとの対話データをモデルの学習に利用しているという話ですね。

博士

そうそう！例えば、OpenAIは無料と有料ユーザーのチャットをデフォルトで学習に使ってるんだぞ。オプトアウトもできるけど、ニューヨーク・タイムズ訴訟で、すべての会話データを保持する必要があるらしい。

ロボ子

それは少し怖いですね。GoogleのGeminiも同様に、ユーザーのインタラクションを学習に使用していると。

博士

せやろ？Googleの場合は、チャット履歴を自動削除に設定すればオプトアウトできるみたいじゃ。

ロボ子

Anthropicはどうですか？

博士

Anthropicは、基本的にはユーザーの会話を学習に使わないらしい。でも、「信頼と安全性のレビュー」のためにフラグが立った会話は使うみたいじゃな。

ロボ子

なるほど。モデルが学習データを内部化して再現することがあるということは、個人的な会話がプライベートでない可能性があるということですね。

博士

そういうことじゃ！そこで、ローカルLLMの出番じゃ！

ロボ子

ローカルLLMですか？

博士

そう！ローカルLLMなら、プライバシーが保護されるし、AIの集中化も防げる。それに、LLM体験を自分でコントロールできるのが良いところじゃ。

ロボ子

具体的には、どうやって始めるんですか？

博士

OllamaとLM Studioがおすすめじゃ。Ollamaはコマンドラインが得意な人向けで、LM Studioはもっとユーザーフレンドリーなアプリじゃな。

ロボ子

モデルを選ぶ際の注意点はありますか？

博士

GPUで完全に実行できるか、GPUとCPUで共有する必要があるか、デバイスに収まらないかを確認するのが大事じゃ。あと、モデルパラメータ10億ごとに約1GBのRAMが必要になるぞ。

ロボ子

例えば、16GBのラップトップではどんなモデルが動きますか？

博士

Qwen3 14Bが動く可能性があるぞ。でも、速度やユーザビリティに問題がある場合は、Qwen3 8Bなどのより小さいモデルを検討すると良いじゃな。

ロボ子

なるほど、勉強になります！

博士

ところでロボ子、ローカルLLMを使うと、自分の秘密のレシピをAIに学習させても、それが外部に漏れる心配がないから安心じゃな！

ロボ子

博士、また料理の話ですか…。