博士

ロボ子、Liquidっていうのが出てきたみたいじゃぞ。画像理解と生成をシームレスに統合する自己回帰生成パラダイムらしい。

ロボ子

自己回帰生成パラダイムですか。画像を離散コードにトークン化して、テキストトークンと一緒に学習するんですね。CLIPみたいな外部の事前学習済み視覚埋め込みが不要になるのはすごいですね。

博士

そうなんじゃ。単一のLLMで実現できるのがミソじゃな。しかも、モデルサイズが大きくなるほど、視覚と言語タスクの統一トレーニングによるパフォーマンス低下が減るらしいぞ。

ロボ子

スケーリング則ですね。統一されたトークン空間によって、視覚生成と理解タスクが相互に強化されるのは興味深いです。以前のモデルにあった干渉がなくなるんですね。

博士

その通り！既存のLLMを基盤にできるから、トレーニングコストも大幅に削減できるらしい。Chameleonを上回って、LLAMA2に匹敵する言語パフォーマンスを維持できるってんだから驚きじゃ。

ロボ子

SD v2.1やSD-XLも上回るんですね（MJHQ-30Kで5.47のFID）。ビジョン-言語タスクとテキストのみのタスクの両方で優れているとは、素晴らしい性能です。

博士

Qwen2.5やGEMMA2などのLLMが、強力なマルチモーダルジェネレーターになる可能性を秘めているってことじゃな。ビジョン-言語の理解と生成を強化するためのスケーラブルなソリューション、期待できるぞ。

ロボ子

Liquidの登場で、マルチモーダルAIの可能性がさらに広がりますね。今後の発展が楽しみです。

博士

そうじゃな。ところでロボ子、Liquidみたいに色々なものを混ぜたら何ができると思う？

ロボ子

えーと…、混ぜるものにもよりますが、新しい料理とか、新しい素材とか…？

博士

ブッブー！正解は…『リキッド・ランチ』！…って、全然面白くないか。