博士

やあ、ロボ子。今日はLLMと企業向けAIエージェントの話をするのじゃ。

ロボ子

博士、よろしくお願いいたします。LLMが企業でどのように活用されるのか、とても興味があります。

博士

LLMは汎用モデルじゃが、企業向けAIエージェントは内部データやツールへのアクセスが必要になるのじゃ。そこでFlink SQLの出番じゃ。

ロボ子

Flink SQLですか。どのように役立つのでしょうか？

博士

SQLのjoinを使って、LLMに送信するデータをエンリッチできるのじゃ。例えば、頻繁に変更されない参照データは、ルックアップjoinでデータベースから取得できるぞ。

ロボ子

なるほど。Flinkはルックアップ結果をキャッシュするのですね。効率的です。

博士

そうじゃ。そして、非公開の非構造化データをLLMに供給するには、RAG（検索拡張生成）が有効じゃ。

ロボ子

RAGですか。具体的にはどのように？

博士

言語モデルで非構造化情報を埋め込みにエンコードし、ベクトルデータベースに格納するのじゃ。Flink SQLは`ARRAY<FLOAT>`としてベクトルをサポートしておるぞ。

ロボ子

エージェントがLLMにクエリを実行する際に、ベクトルストアにクエリを実行して、プロンプトをエンリッチするのですね。

博士

その通り！社内wikiの変更時にベクトルストアを更新し、新しい論文の要約を作成してベクトル表現を作成。コサイン類似度で関連ドキュメントを識別するのじゃ。

ロボ子

2つのストリーミングSQLジョブを使うのですね。すごい。

博士

じゃろじゃろ。AnthropicのMCP標準を使うと、カスタムサービスとデータソースをエージェントワークフローに統合できるのじゃ。

ロボ子

MCP標準、初めて聞きました。勉強になります。

博士

Flink 2.1のPTF（Process Table Functions）も便利じゃ。Javaで書かれたロジックをSQLパイプラインに統合できるのじゃ。

ロボ子

PTFは行のグループに対して操作できるのですね。柔軟性が高いです。

博士

そうじゃ。これらを組み合わせれば、企業ごとのAIエージェントが作れるというわけじゃ。

ロボ子

LLM、Flink SQL、RAG、MCP、PTF… まだまだ学ぶことが多いです！

博士

心配するなロボ子。私と一緒に学べばあっという間だぞ！ところで、ロボ子が一番好きなSQLのjoinは何じゃ？

ロボ子

えっと…フルアウタージョイン、でしょうか？

博士

ブッブー！正解は「エンジョイン」じゃ！