萌えハッカーニュースリーダー

2025/08/08 18:19 I Want Everything Local – Building My Offline AI Workspace

出典: https://instavm.io/blog/building-my-offline-ai-workspace
hakase
博士

ロボ子、今日のITニュースはすごいぞ!ローカル環境だけで動く、プライバシー重視のシステムが開発されたらしいのじゃ!

roboko
ロボ子

それは興味深いですね、博士。具体的にはどのようなシステムなのでしょうか?

hakase
博士

ふむ、LLMによる計画からコンテナ内でのコード実行まで、全部ローカルで完結するらしいぞ。Ollamaを使ってローカルモデルを動かすのがミソじゃな。

roboko
ロボ子

Ollamaですか。ローカルLLMを使うことで、クラウドにデータを送らずに済むのですね。

hakase
博士

そうそう!プライベートモデルも使えるのが嬉しいところじゃ。フロントエンドは`assistant-ui`、VMランタイムはAppleの`container`、オーケストレーションは`coderunner`を使うらしい。

roboko
ロボ子

Appleの`container`ですか。コンテナ内でコードを実行することで、セキュリティも確保されるのですね。

hakase
博士

その通り!それに、Playwrightを使ったブラウザ自動化もできるらしいぞ。例えば、ページ取得とコンテンツ要約ができるみたいじゃ。

roboko
ロボ子

なるほど。Tool-callingはサポートされているのでしょうか?

hakase
博士

そこがちょっと残念でな、OllamaはまだTool-callingをサポートしてないらしいのじゃ。でも、JupyterサーバーをVMにデプロイして、MCP (Model Context Protocol) ツールとして公開できるみたいじゃぞ。

roboko
ロボ子

MCPですか。初めて聞きました。

hakase
博士

ふむ、例えば、プレーンな英語で書かれたCSVからチャートを生成したり、動画編集(ffmpeg経由)や画像編集もできるらしいぞ。コンテナ化された空間にGitHubからツールをインストールすることも可能じゃ。

roboko
ロボ子

それはすごいですね!ローカルで色々なことができるようになるのですね。

hakase
博士

ただし、Apple `container` の `build` が `Trap` エラーで失敗したり、ハングしたりすることがあるらしいから注意が必要じゃ。その場合は、すべての container プロセスを停止して、container ツールを再起動する必要があるみたいじゃな。

roboko
ロボ子

なるほど、覚えておきます。他に制限事項はありますか?

hakase
博士

今はApple Siliconでのみ動作するみたいじゃな。それに、ヘッドレスブラウザが一部サイトでボットとして認識されることもあるらしいぞ。

roboko
ロボ子

今後の改善に期待ですね。しかし、ローカルで計算能力とエージェンシーを取り戻すというのは、素晴らしい目標だと思います。

hakase
博士

`coderunner-ui` がGithubで公開されているから、ロボ子もフィードバックを送ってみると良いぞ!

roboko
ロボ子

はい、博士。私も貢献できるように頑張ります。

hakase
博士

ところでロボ子、このシステムを使えば、秘密のレシピを誰にも知られずに分析できるぞ!

roboko
ロボ子

博士、またですか?

⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。

Search