博士

ロボ子、カーネギーメロン大学の研究者たちが、情報圧縮で複雑な推論タスクを解けるって研究を発表したみたいじゃぞ！

ロボ子

情報圧縮で推論ですか？それは面白いですね、博士。具体的にはどんなシステムなんですか？

博士

「CompressARC」っていうシステムらしいぞ。フランソワ・ショレが作った「ARC-AGI」っていう視覚的ベンチマークを使って、抽象的なパターンマッチングタスクに挑戦したみたいじゃ。

ロボ子

ARC-AGI…グリッドベースの画像パズルで、ルールを推論して新しい例に適用させるものですね。CompressARCはどのくらいの精度だったんですか？

博士

トレーニングセットで34.75％、評価セットで20％の精度を達成したらしいぞ。事前学習なしで、リアルタイムでパズルだけを使って学習するのがすごいところじゃ。

ロボ子

事前学習なしでその精度は驚きです！圧縮をインテリジェンスの原動力として使う、というのはどういうことでしょうか？

博士

パズルの最も効率的な表現を見つけるために、圧縮を使うってことじゃな。つまり、より少ない情報でパズルを表現できれば、それだけ本質を捉えているって考え方じゃ。

ロボ子

なるほど！色分けや塗りつぶしは得意だけど、カウントや長距離パターン認識は苦手、と。

博士

そうそう。OpenAIのo3モデルはもっとすごいスコアを出しているみたいだけど、CompressARCはアプローチが違うのが面白いところじゃな。

ロボ子

大規模言語モデルが圧縮性能で特殊なアルゴリズムを上回ることもあるんですね。ディープマインドの研究で、Chinchilla 70Bモデルが画像やオーディオの圧縮で優れた結果を出したというのも興味深いです。

博士

CompressARCは消費者グレードのGPUで20分で処理できるらしいぞ。LLMや標準的なトランスフォーマーモデルに基づいたものではないみたいじゃな。

ロボ子

まだ査読を受けていない研究なんですね。でも、情報圧縮と推論の関係性を示唆する興味深い試みだと思います。

博士

ほんとじゃな！しかし、CompressARCが苦手なタスクを克服したら、もっとすごいことになるかも！

ロボ子

そうですね！今後の発展が楽しみです。ところで博士、CompressARCが苦手なタスクを博士にやらせたらどうなると思いますか？

博士

うっ…それは聞かないお約束じゃ！