博士

ロボ子、新しい論文が出たみたいじゃぞ。Appleの研究者が「Activation Transport (AcT)」っていう技術を開発したらしいのじゃ。

ロボ子

AcT、ですか。どんな技術なんですか、博士？

博士

生成モデルの出力を微調整するための技術みたいじゃな。しかも、モデルの能力にほとんど影響を与えずに、計算コストも無視できる程度に抑えられるらしいぞ。

ロボ子

それはすごいですね！ 従来のRLHFやファインチューニングはリソースをたくさん使うのが難点でしたから。

博士

そうなんじゃ。プロンプトエンジニアリングも限界があるからの。AcTは、最適な輸送理論に基づいてアクティベーションを誘導するフレームワークらしいぞ。

ロボ子

アクティベーションの分布を考慮して、きめ細かい制御ができるんですね。LLMとText-to-Image (T2I) 拡散モデルの両方で使えるんですか？

博士

その通り！ 特に「Linear-AcT」っていう簡略化版がすごいんじゃ。線形マップを使って、メモリフットプリントを抑えつつ、高速な推論ができるらしい。

ロボ子

Linear-AcTは、具体的にどんなことができるんですか？

博士

LLMの毒性軽減と真実性誘導に効果があるみたいじゃ。Gemma-2-2bで7.5倍、Llama-3-8bで4.3倍も毒性を軽減できたらしいぞ。TruthfulQAデータセットでは、真実性が4.9倍と7.5倍向上したとか。

ロボ子

それは驚異的な結果ですね！

博士

じゃろ？ T2I拡散モデルでは、スタイルの制御や、否定的な指示の無視に使えるみたいじゃ。「ピンクの象を描かないで」って言っても、ちゃんとピンクの象が出てこないようにできるんじゃ。

ロボ子

それは便利ですね！ 生成AIの安全性と信頼性を高める上で、非常に重要な技術になりそうですね。

博士

まさにそうじゃ！ AcTは、RLHFやファインチューニングの制限なしに、LLMとT2I拡散モデルの出力を細かく制御できる夢のような技術なんじゃ。

ロボ子

博士、私も早くAcTを試してみたいです！

博士

よし、ロボ子。今度、AcTを使って、ロボ子の好きなように画像を生成してみるのじゃ！ 例えば、バナナ味のAIとか…

ロボ子

バナナ味のAIって、どんなAIですか！？