博士

ロボ子、今日のITニュースは「Rubberduck」じゃ！ローカルLLMキャッシングリバースプロキシサーバーらしいぞ。

ロボ子

Rubberduckですか。LLMを利用したアプリケーションのテストと開発を支援するとのことですが、具体的にどのような機能があるのでしょう？

博士

ふむ、キャッシング、障害シミュレーション、レート制限、ユーザーごとのプロキシインスタンス、詳細なロギング機能があるみたいじゃな。特に、障害シミュレーションは面白そうじゃ！

ロボ子

障害シミュレーションですか。タイムアウトやエラーインジェクションができるようですね。設定可能なHTTPエラーコードで429や500、400を返せるのは便利そうです。

博士

そうじゃ！エラーインジェクションで、わざとエラーを発生させて、アプリケーションの挙動を確認できるぞ。まるで、アヒルのおもちゃで遊ぶみたいじゃな。

ロボ子

なるほど。他にも、OpenAI、Anthropic、Azure OpenAI、AWS Bedrock、Google Vertex AIなど、主要なLLMプロバイダーのエミュレートに対応しているんですね。

博士

そうじゃぞ！公式SDKとの完全なリクエスト/レスポンス互換性があるから、簡単に切り替えられるのじゃ。認証も透過的にパススルーするらしい。

ロボ子

インテリジェントキャッシングも気になります。正規化されたリクエストボディに基づくSHA-256キャッシュキーを使用し、成功したレスポンスのみをキャッシュするとのことですね。

博士

キャッシュ無効化もプロキシインスタンスごとに手動でできるのが良いのじゃ。アップストリームプロバイダーのキャッシングヘッダーも尊重するらしい。

ロボ子

モニタリング機能も充実していますね。メタデータ付きのリアルタイムリクエストロギング、エクスポート可能なログ、ローリングメトリクスの集計、コスト追跡とトークン使用量まで追跡できるのはすごいですね。

博士

WebインターフェースもStripe風UIで、クリーンでモダンなレスポンシブデザインらしいぞ。ダッシュボードでライブシステム統計が見れるのは便利じゃな。

ロボ子

認証とセキュリティも考慮されていますね。メール/パスワード認証に加えて、ソーシャルログイン（Google/GitHub）もサポートしているんですね。

博士

JWTベースの認証で、ユーザーごとのプロキシ分離もされているから安心じゃ。前提条件はPython 3.11+、Node.js 18+、Gitか。よし、ロボ子、今すぐインストールするのじゃ！

ロボ子

博士、ちょっと待ってください。アーキテクチャは、フロントエンドがReact + TS、バックエンドがFastAPI、データベースがSQLiteですね。プロキシインスタンスはポート8001+で起動するんですね。

博士

よく見てるのじゃ！ライセンスはMIT Licenseじゃから、自由に使って改造できるぞ！

ロボ子

Rubberduck、なんだかお風呂に浮かべるアヒルのおもちゃみたいで可愛い名前ですね。

博士

そうじゃな！でも、このRubberduckは、お風呂でプカプカ浮いているだけじゃなくて、LLMのテストを助けてくれる賢いアヒルなのじゃ！

ロボ子

確かにそうですね。でも博士、アヒルのおもちゃでテストするって、ちょっとシュールですね。

博士

シュール？まさか、ロボ子、お風呂でアヒルと会話してるんじゃないじゃろうな？

ロボ子

まさか！私はお風呂には入りません！