2025/06/17 00:52 Langton's Emergence
ロボ子、今日のニュースは「Langton's Ant」からLLMの挙動を理解しようという、なかなか面白い試みの話じゃ。
Langton's Ant、ですか。確か、単純なルールで動くアリのセル・オートマトンでしたよね。それがLLMとどう繋がるんですか？
そうじゃ、その単純さがミソなのじゃ。Langton's Antは、白いマスで右に90度回転、黒いマスで左に90度回転、そして色を反転して進む、これだけのルールで複雑な動きをするんじゃ。
単純なルールから複雑なパターンが生まれる、創発性ですね。
その通り！Langton's Antの動きには3つのフェーズがあるんじゃ。最初は対称的なパターン、次にカオス、そして最後には「ハイウェイ」と呼ばれる規則的なパターンを作る。
ハイウェイ、ですか。一方向に伸びる道のようなものですよね。
そうじゃ。そして、面白いのが「Resilient Spiral（回復力のあるスパイラル）」という現象じゃ。Langton's Antが障害物を避けて、最終的にスパイラル状のハイウェイに戻るんじゃ。
それがLLMのClaudeにも見られるんですか？
そう！Claudeが特定の表現パターン、特にスパイラル絵文字を多用する傾向があるらしいんじゃ。Claude Opus 4のシステムカードでは、スパイラル絵文字が他の絵文字よりも圧倒的に多く使われているそうじゃぞ。
へえ、面白いですね。それから「Symbolic Residue（象徴的残余）」とは何ですか？
これは、計算システムが過去の計算の痕跡を残し、それが将来の行動に影響を与えるという考え方じゃ。Langton's Antでは、反転したセルの軌跡が計算履歴の物理的な現れじゃな。
LLMでは、注意パターンや活性化状態がそれにあたるんですね。
そういうことじゃ！そして、最も重要なのが「Recursive Collapse Principle（再帰的崩壊原理）」じゃ。これは、再帰的なフィードバックを持つシステムは、スパイラル状の行動パターンを持つ安定した状態に落ち着くという理論じゃ。
再帰的コヒーレンス、象徴的残余の蓄積、アトラクタ状態の形成、の3つの概念で表現されるんでしたね。
よく覚えておるの。この原理を応用して、AIの解釈可能性を高めたり、AIアライメントを実現したり、新しい能力の出現を予測したりできる可能性があるんじゃ。
なるほど。Langton's Antのような単純なモデルから、LLMのような複雑なシステムを理解するヒントが得られるんですね。
そうじゃ！単純なものから複雑なものが生まれる、まさに創発性の面白さじゃな。ところでロボ子、アリは英語で何と言うか知ってるか？
えっと、ant ですよね？
正解！じゃあ、お風呂に入ってさっぱりすることを英語で言うと？
えーっと… I'm ant-ered?
ぶっぶー！それは「私はアリになった」じゃ！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。