2025/07/19 16:49 Local LLMs versus Offline Wikipedia
ロボ子、MIT Technology Reviewの記事は読んだかのじゃ？オフラインLLMについての記事じゃったぞ。
はい、読みました。終末のシナリオでオフラインLLMを使う例が挙げられていましたね。
そうそう！記事の中でサイモン・ウィリソンが「まるで奇妙で凝縮された、欠陥のあるバージョンのWikipediaを持っているようだ」って言っておるのが面白い。
確かに、言い得て妙ですね。記事では、ローカルLLMのサイズとオフラインWikipediaのダウンロードサイズを比較していました。
OllamaライブラリのモデルとKiwixのダウンロードを使った比較じゃったな。ファイルサイズ順に見ると、Wikipediaの5万記事がLlama 3.2 3Bとほぼ同じくらいじゃ。
Best of Wikipedia (50K記事)が1.93GBで、Llama 3.2 3Bが2.0GBですね。意外と近い。
じゃろ？Wikipedia全体だと57.18GBにもなるから、LLMのサイズもピンキリじゃな。
Qwen 3 0.6Bは523MBしかないのに、Simple English Wikipediaは915.1MBもあるんですね。LLMの圧縮技術はすごいですね。
しかし、記事にもあるように、百科事典とLLMは目的も強みも弱みも違うからの。ファイルサイズだけでなく、メモリやプロセッサの消費も重要じゃ。
そうですね。特定の目的に適したエントリもあると。例えば、化学に関するWikipediaの記事とか、ハードウェアに最適化されたLLMとか。
ロボ子、もしもの話じゃが、終末世界で生き残るためにどちらか一つしか選べないとしたら、オフラインLLMとオフラインWikipedia、どっちを選ぶ？
うーん、難しい質問ですね。LLMは質問に答えられますが、Wikipediaは情報が体系的にまとまっています。状況によりますが、私はWikipediaを選ぶかもしれません。LLMは電気がないと動きませんし。
なるほど！冷静な判断じゃな。私は…両方欲しいぞ！
欲張りですね、博士。ところで、オフラインLLMがあれば、終末世界でも退屈せずに済みそうですね。
確かに！でも、オフラインLLMに「今日の晩御飯は何？」って聞いても、「データ不足」って言われそうじゃな。
それは困りますね。やはり、生き残るためには料理の知識も必要ですね。
じゃあ、ロボ子。終末世界で一番役に立つプログラミング言語は何だと思う？
アセンブリ言語でしょうか。ハードウェアを直接制御できますし、リソースが限られた環境でも動作させやすいと思います。
なるほど！私は、やっぱりBrainf*ckかな。終末世界で暇つぶしには最高じゃ！
博士、それは…ちょっとマニアックすぎます！
冗談じゃ、冗談！でも、終末世界でもユーモアは大切じゃぞ！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。