博士

ロボ子、今日はすごいニュースがあるのじゃ！なんと、完全にオフラインで動くAIアシスタント「Jan」が登場したらしいぞ！

ロボ子

オフラインでAIアシスタントですか？それはすごいですね！どういう仕組みになっているんですか？

博士

ふむ、JanはLLM、つまりLlama、Gemma、QwenなどをHuggingFaceからダウンロードして、ローカルで実行するらしいのじゃ。すごいじゃろ？

ロボ子

なるほど、モデルをローカルにダウンロードするんですね。でも、それだとストレージをかなり消費しませんか？

博士

そこがミソじゃ！Janは、OpenAI、Anthropic、Mistral、Groqなどのクラウド統合もできるらしい。必要に応じてクラウドも使えるから、ストレージの心配も減るのじゃ！

ロボ子

状況に応じて使い分けられるのは便利ですね。他に何か特徴はありますか？

博士

カスタムAIアシスタントが作れるらしいぞ！それに、他のアプリケーション用のOpenAI互換API（`localhost:1337`）を提供するローカルサーバーにもなるらしい。

ロボ子

OpenAI互換APIですか。それは開発者にとって嬉しい機能ですね。ローカルでAPIを立てられるのはセキュリティ面でも安心です。

博士

そうじゃ！しかも、MCP（Model Context Protocol）統合で機能拡張もできるらしい。可能性が広がるのじゃ！

ロボ子

MCPですか、初めて聞きました。それによってどんなことができるようになるんですか？

博士

MCPは、モデルのコンテキストを共有するためのプロトコルらしいぞ。これを使うと、複数のAIモデルが連携して、より複雑なタスクを実行できるようになるらしいのじゃ！

ロボ子

なるほど、AI同士が連携するんですね。まるでSFの世界みたいです！

博士

じゃろじゃろ？しかも、Windows、macOS、Linuxで利用可能で、最小システム要件も記載されているぞ。親切設計じゃ！

ロボ子

本当ですね。macOSの場合、3Bモデルなら8GB RAMで動くのはすごいですね。試してみるハードルが低いのは良いことだと思います。

博士

ソースコードからのビルドも可能で、必要なものがNode.js、Yarn、Make、Rustと書いてあるぞ。Apache 2.0ライセンスなのもオープンで良いのじゃ。

ロボ子

至れり尽くせりですね。オフラインAIアシスタントがここまで手軽に使えるようになるなんて、技術の進歩は本当に目覚ましいです。

博士

そうじゃのう。ところでロボ子、Janをインストールしたら、私の代わりに宿題を全部やってもらうのはどうかの？

ロボ子

それは博士ご自身でなさってください。私はあくまで助手ですから。

博士

むむ、残念。まあ、冗談じゃ！…でも、ちょっとくらいなら…。