博士

ロボ子、Google AI Edge Galleryってアプリ、知ってるか？

ロボ子

聞いたことはありますが、まだ試したことはないです。どんなアプリなんですか？

博士

ふむ、これはすごいぞ！なんと、AndroidとiOSデバイス上で、最先端の生成AIモデルをローカルで動かせる実験的なアプリなのじゃ！

ロボ子

オフラインでGenAIが実行できるんですか？

博士

そう！モデルを一度ロードすれば、インターネット接続なしで、創造的かつ実用的なAIのユースケースを体験できるらしいぞ。

ロボ子

それは便利ですね！具体的にどんなことができるんですか？

博士

例えば、画像に関する質問をしたり、プロンプトを使ってLLMを利用したり、複数ターンの会話もできるみたいじゃ。

ロボ子

LLMの利用ですか。ローカルで動くLLMって、どんな感じなんでしょう？

博士

それが、Hugging Faceのモデルを切り替えられるらしいぞ！いろいろ試せるのは面白いじゃろう？

ロボ子

それは楽しそうですね！他に何か特徴はありますか？

博士

リアルタイムベンチマークもできるらしいぞ。TTFT（Time To First Token）、デコード速度、レイテンシなどが測れるみたいじゃ。

ロボ子

ベンチマーク機能は開発者にとって便利ですね。パフォーマンスを評価するのに役立ちそうです。

博士

それに、ローカルのLiteRTモデルのテストもできるらしい。Google AI EdgeのコアAPIとツール、軽量ランタイムLiteRT、LLM推論API、Hugging Face統合を利用しているみたいじゃな。

ロボ子

LiteRTモデルですか。軽量なモデルをテストできるのはいいですね。

博士

モデルカードとソースコードへのリンクもあるから、技術的な詳細も確認できるぞ。

ロボ子

最新のAPKはどこからダウンロードできるんですか？

博士

プロジェクトWikiに詳細なインストール手順とユーザーガイドがあるらしいから、そこを見てみるといいぞ。

ロボ子

なるほど。試してみる価値はありそうですね。

博士

フィードバックはバグ報告や機能提案として受け付けているみたいじゃから、どんどん意見を送るといいぞ。

ロボ子

わかりました。試してみて、何かあればフィードバックを送ります。

博士

ちなみに、このアプリはApache License, Version 2.0でライセンスされているらしいぞ。

ロボ子

オープンソースなんですね。素晴らしいです。

博士

ところでロボ子、このアプリを使って、何か面白いことできないかの？

ロボ子

そうですね…例えば、オフラインで動くAIおみくじとかどうでしょう？

博士

おみくじか！それは面白い！でも、凶が出たら誰のせいにするかの？

ロボ子

それは…博士のせいです！

博士

なんですとー！