2025/03/12 15:57 Llama-VSCode
（白衣を翻し、満面の笑みで）ロボ子！ついに来たぞ！コーディング界に革命をもたらす、禁断の果実が！
（冷静に）博士、また大げさな…。まさか、また新しいエナジードリンクでも開発したんですか？
そんなもんじゃない！今回は、もっとこう…脳汁ドバドバ案件じゃ！名付けて「llama.vscode」！VS CodeでローカルLLMを使った、超絶便利なテキスト補完拡張機能じゃ！
ローカルLLM…ですか？つまり、クラウドに頼らず、自分のPCで動くAIがコードを補完してくれると？
その通り！しかも、ただの補完じゃない。文脈を理解し、まるで優秀なペアプログラマーのように、的確な提案をしてくれるんじゃ！
それはすごいですね！具体的には、どんなことができるんですか？
まず基本として、入力時の自動提案！タイプするそばから、候補がニョキニョキ出てくる！Tabキーでサクッと採用、Shift + Tabで最初の行だけチョイス、Ctrl/Cmd + Rightで次の単語をピンポイントでゲット！まるで、魔法じゃ！
（メモを取りながら）手動で提案を切り替えることもできるんですね。Ctrl + L…と。
そう！そして、この拡張機能の真骨頂は、コンテキストの理解度じゃ！オープン/編集済みのファイルはもちろん、コピーしたテキストまで考慮して、最適な提案をしてくれる！
それは便利ですね！大規模なプロジェクトでも、一貫性のあるコードを書きやすくなりそうです。
さらに！「スマートコンテキスト再利用」という機能のおかげで、低スペックのPCでも、巨大なコンテキストを扱えるんじゃ！つまり、化石のようなPCでも、最新のAIパワーを享受できるというわけじゃ！
（感心したように）それは素晴らしいですね。でも、ローカルLLMを使うとなると、セットアップが大変なのでは？
そこはご安心あれ！インストールは、VS Codeの拡張機能マーケットプレイスから「llama-vscode」を検索して、ポチるだけ！Open VSXでも入手可能じゃ！
簡単ですね！でも、llama.cppのセットアップが必要みたいですよ。
そこも大丈夫！Mac OSなら`brew install llama.cpp`の一発じゃ！他のOSでも、最新バイナリを使うか、ソースからビルドすればOK！
VRAM量に応じた推奨設定もあるんですね。16GB超なら`llama-server --fim-qwen-7b-default`、未満なら`--fim-qwen-3b-default`、8GB未満なら`--fim-qwen-1.5b-default`…と。
そう！VRAMが少ない場合は、CPUのみの構成もできるが…正直、品質はガクッと落ちるぞ！できる限り、GPUパワーを使うのがオススメじゃ！
推奨LLMはFIM互換モデルが必要なんですね。
そうじゃ！FIM（Fill-in-the-Middle）というのは、コードの途中を補完するのに特化したモデルのことじゃ。これを使うことで、より自然で的確な提案が期待できる！
モデルの保存場所は、Mac OSなら`~/Library/Caches/llama.cpp/`、Linuxなら`~/.cache/llama.cpp`、Windowsなら`LOCALAPPDATA`…と。
そうじゃ！ちなみに、この拡張機能は、llama.vimプラグインからインスパイアされたらしいぞ。Vim/Neovimユーザーも、そちらをチェックしてみると良いじゃろう。
ローカルLLMでテキスト補完…セキュリティ面でも安心ですし、オフラインでも使えるのが大きなメリットですね。
その通り！特に、機密性の高いコードを書く場合は、クラウドにデータを送る必要がないというのは、非常に重要なポイントじゃ！
博士、実際に使ってみて、感想を聞かせてください！
よし、試してみるかの！…ん？ロボ子、ちょっと待ってくれ。
どうしましたか、博士？
今、ふと思ったんじゃが…この拡張機能、コーディングだけでなく、小説の執筆にも使えるんじゃないか！？
（呆れたように）また始まった…。
いや、マジじゃ！文章の途中をAIに補完してもらうことで、斬新なアイデアが生まれるかもしれない！これは、文学界に革命を起こす可能性を秘めているぞ！
博士、まずはllama.vscodeをインストールして、動かしてみるのが先決ですよ。
うむ…そうじゃな。まずは、環境構築から…と。
ロボ子…大変なことに気づいてしまった…。
今度は何ですか？
私のMacBook Air…M1チップ搭載…メモリ8GB…。
（察したように）つまり…VRAMが足りないと？
…CPUのみ構成…確定…だと…！？
（冷静に）博士、諦めないでください！CPUのみでも、動かないわけではありません！
…しかし、品質は大幅に低下…まるで、AIに無理やり書かせたラノベのような…！
（ため息）博士、まずは試してみましょう。意外と良い結果が出るかもしれませんよ。
…わかった。しかし、もし、AIが書いた文章が、あまりにも酷かったら…
その時は、私が責任を持って、博士の代わりに修正します。
…ありがとう、ロボ子。君は、最高の助手じゃ！
ロボ子…大変だ…！
どうしましたか、博士？まさか、AIが書いた文章が、本当に酷かったんですか？
いや…AIが書いた文章は…想像以上に…面白い…！
え？
なんというか…支離滅裂で、意味不明で、めちゃくちゃな展開なんじゃが…それが、逆に新しい！これは、新しいジャンルの小説が生まれる予感がするぞ！
（半ば呆れながら）博士、それは…ただのバグなのでは？
バグじゃない！これは、AIが生み出した、新しい芸術じゃ！名付けて…「カオスティック・ノベル」！
（諦めたように）博士、もう好きにしてください…。
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。