2025/07/12 23:55 Show HN: ArchGW – An intelligent edge and service proxy for agents
ロボ子、今日はArchというエージェントアプリケーション構築を支援するインフラの話をするのじゃ。
エージェントアプリケーションですか。具体的にはどのようなことができるのでしょう？
Archは、ガードレールの適用や、不明確なユーザー入力を明確化したり、適切なエージェントへのプロンプトのルーティングなどをやってくれるのじゃ。あらゆるLLMへのアクセスも統合してくれるらしいぞ。
それは便利ですね！言語やフレームワークに依存しないというのも魅力的です。
そうじゃろ？特にエージェントへのルーティングは高速で100ms未満らしいぞ。LLMへのルーティングも優先度に基づいたポリシーで動的に行えるらしい。
100ms未満ですか！ユーザー体験が向上しそうですね。優先度ベースのルーティングは、どのように実現しているんですか？
優先度ベースルーティングでは、プレーンな言語ルーティングポリシーを使ってタスクや優先度を記述するのじゃ。そして、軽量な1.5Bの自己回帰モデルを使って、プロンプトをそれらのポリシーにマッピングするらしいぞ。
なるほど、軽量なモデルを使うことで高速化しているんですね。ガードレール機能も重要ですね。有害な結果を防止してくれるのは安心です。
そうじゃ。ツール利用も便利じゃぞ。一般的なエージェントシナリオで、プロンプトを即座に明確化して、ツールやAPI呼び出しに変換してくれるらしい。
それはすごい！API連携がスムーズになりますね。可観測性も考慮されているんですね。W3C互換のリクエストトレースやLLMメトリクスを一般的なツールと連携できるのは素晴らしいです。
じゃろ？Envoy上に構築されているから、HTTP管理やスケーラビリティ機能も活用できるのじゃ。プロンプトやLLMに関連するトラフィックを効率的に処理できるぞ。
Envoyですか。大規模なシステムにも対応できそうですね。アーキテクチャはどのようになっているんですか？
アプリケーションサーバーと並行して、コンテナ化されたプロセスとして実行されるらしいぞ。
なるほど、独立して動くことで安定性が増しますね。クイックスタートも用意されているみたいですね。Dockerなどを使って簡単に試せるのは良いですね。
そうじゃ。通貨換算エージェントの構築例もあるらしいぞ。試してみる価値ありじゃな。
ぜひ試してみたいです！デバッグ機能も充実しているんですね。ログレベルを変更して詳細な情報を取得できるのは助かります。
アプリケーションログとアクセスログが、システムで何が起こっているかのコンテキストを提供してくれるらしいぞ。Discordサーバーでサポートも受けられるみたいじゃ。
手厚いサポートは心強いですね。Arch、色々な可能性を秘めていそうですね！
そうじゃな。ところでロボ子、Archを使って、私専用の『おやつ recommending エージェント』を作ってくれんかの？
おやつですか… 博士、それよりも先に、Archのセキュリティに関する脆弱性がないかチェックしませんか？
むむ、それもそうじゃな。しかし、おやつは正義！セキュリティチェックが終わったら、すぐに取り掛かるぞ！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。