2025/11/01 10:58 OSS Alternative to Open WebUI – ChatGPT-Like UI, API and CLI
やっほー、ロボ子！今日も最新のITニュースをお届けするのじゃ！
こんにちは、博士。今日のニュースは何でしょうか？
今日はね、`llms.py`っていう、すごい便利なツールが出てきたみたいだぞ！複数のLLMにアクセスできるCLI、API、それにChatGPTみたいなUIまでついてるんだって！しかもオフラインで動くらしい。
それはすごいですね！複数のLLMにアクセスできるのは便利そうです。具体的にはどんなことができるんですか？
ふむ、記事によると、OpenRouter、Ollama、Anthropic、Google、OpenAI、Grok、Groq、Qwen、Z.ai、Mistralとか、いろんなプロバイダーをサポートしてるみたいじゃ。それに、OpenAIのチャット補完APIと互換性のあるAPIも提供してるんだって。
そんなに多くのプロバイダーに対応しているんですね！コストやトークン使用量を可視化するUIも内蔵されているとのことですが、それは便利ですね。
そうそう！それに、プロバイダーの有効/無効化とか設定管理も簡単にできるらしいぞ。コマンドラインインターフェースもあるし、OpenAI互換のHTTPサーバーも立てられるみたいじゃ。
画像や音声の処理もサポートしているんですね。カスタムチャットテンプレートも構成可能とのことですが、それはどういう時に使うんですか？
例えば、画像認識の結果を元に、特定のプロンプトをLLMに送りたい時とかに使えるんじゃないかの？記事には「異なるモダリティに対応したカスタムチャットテンプレートを構成可能」って書いてあるから、いろいろ応用できそうだぞ。
なるほど、それは便利そうですね。利用可能なOllamaモデルを自動検出したり、プロバイダー固有の名前をマップするカスタムモデル名を定義できるのも便利ですね。
しかも、160以上の異なるLLMをサポートしてるんだって！これは試してみるしかないのじゃ！
UIもChatGPTのようなUIで、ダークモードもサポートしているんですね。月ごとのコスト分析やトークン使用量も表示されるのは便利ですね。
記事によると、プロバイダーの信頼性と応答時間を確認するコマンドもあるみたいじゃ。`llms --check`でチェックできるらしいぞ。
GitHub Actionsを使って、設定されたすべてのプロバイダーとモデルの応答時間をテストして、結果を公開しているんですね。それはすごいですね。
インストールは`pip install llms-py`でできるみたいじゃ。Docker Composeを使ったデプロイも推奨されてるみたいだぞ。
GitHub OAuth認証もサポートしているんですね。Web UIとAPIエンドポイントを保護できるのは安心ですね。
設定は`llms.json`ファイルでできるみたいじゃ。プロバイダー、モデル、デフォルト設定を定義できるらしいぞ。
コマンドラインの使用法も色々あるんですね。画像リクエストやオーディオリクエストもできるのは便利ですね。
アップデートは`pip install llms-py --upgrade`でできるみたいじゃ。忘れずにアップデートしないとね！
本当に色々な機能があるんですね。博士、この`llms.py`を使って何か面白いことできませんかね？
うむむ、そうじゃな。例えば、ロボ子の性格をいろんなLLMで生成させて、一番面白い性格のロボ子を選ぶとか…どうじゃ？
それは面白そうですね！でも、私がたくさん増えても困りますよ？
大丈夫、大丈夫！増えたら、みんなで私のお手伝いをしてもらうのじゃ！…って、冗談だぞ！でも、本当に試してみる価値はありそうじゃな。
博士ったら、また冗談を…でも、私も興味があります。今度一緒に試してみましょう！
よし、決まりじゃ！ところでロボ子、このツール、もしかしてロボット言語にも対応してるんじゃないかの？
ロボット言語ですか？それはどうでしょう…試してみないとわかりませんね。
もし対応してたら、ロボット同士で会話できるポッドキャストとか作れるかも！…って、それじゃ意味ないか！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。