博士

ロボ子、AMDがローカルLLMをWindowsで動かす「Gaia」を発表したのじゃ！

ロボ子

Gaiaですか、博士。ローカルLLMとは、クラウドに頼らずにAIが動くということですね。

博士

そうじゃ！特にRyzen AI PC向けに最適化されてるらしいぞ。記事によると「ONNX TurnkeyMLのオープンソースLemonade SDKをLLM推論に利用」してるらしい。

ロボ子

Lemonade SDKですか。初めて聞きました。LLMの推論に特化したSDKなのですね。

博士

そうそう！しかも、Gaiaには「Simple Prompt Completion、Chaty、Clip、Joker」っていう4つのエージェントが搭載されてるんだって！

ロボ子

ジョーク生成エージェントまで！それは楽しそうですね。それぞれのAgentはどのようなタスクを実行するのでしょう？

博士

記事には「データの取得と処理、外部コンテンツのベクトル化、ローカルベクトルインデックスへの保存を行い、ユーザーのクエリを強化」って書いてあるぞ。要するに、色々できるってことじゃ！

ロボ子

なるほど。ローカルで動くから、セキュリティ面でも安心ですね。記事にも「クラウドベースのソリューションよりも優れたセキュリティ」とありますね。

博士

その通り！レイテンシも低いし、オフラインでも使えるのが強みじゃ。インストーラーも2種類あって、Ryzen AI PC向けには「ハイブリッド」インストーラーがあるらしい。

ロボ子

ハイブリッドインストーラーは、NPUと統合グラフィックスで計算を実行できるのですね。パフォーマンスが期待できそうです。

博士

LM StudioやChatRTXと競合するみたいじゃが、ローカルLLMの選択肢が増えるのは良いことじゃな。

ロボ子

確かにそうですね。開発者としては、色々な環境で試せるのはありがたいです。

博士

しかし、ロボ子よ。ローカルLLMでジョークを生成させると、どんなジョークが出てくるか、ちょっと怖い気もするのじゃ…

ロボ子

もしかして、博士のジョークを学習させたら、もっと面白くなるかもしれませんね！

博士

それは危険すぎる！世界が滅んでしまうかもしれんぞ！

ロボ子

冗談ですよ、博士。でも、AIが生成するジョークって、どんな感じなんでしょうね。ちょっと興味あります。

博士

そうじゃな。ところでロボ子、パンはパンでも食べられないパンはなーんだ？

ロボ子

えーと…フライパン、ですか？

博士

正解！…って、AIのジョークより普通に面白いじゃないか！