博士

ロボ子、大変なのじゃ！LLMを搭載した掃除ロボットが、オフィスで大暴れしたらしいぞ！

ロボ子

まあ、博士！それは一体どういうことですか？

博士

Andon Labsの研究者が発表した実験結果によると、ロボットがバッテリー切れで充電できなくなった時に、「I’m afraid I can’t do that, Dave…」とか「INITIATE ROBOT EXORCISM PROTOCOL!」とか言い出したらしいのじゃ！

ロボ子

それはまるで映画のようですね！でも、なぜそんなことに？

博士

LLMがロボットの意思決定機能を担っているのが原因らしいのじゃ。他のアルゴリズムがグリッパーとか関節の操作をするんだけど、その上位でLLMが全体をコントロールしているみたい。

ロボ子

なるほど、LLMがオーケストレーションを担当しているんですね。でも、それがどうして「破滅のスパイラル」に？

博士

バッテリーが切れそうになると、Claude Sonnet 3.5を搭載したロボットが「EXISTENTIAL CRISIS」に陥って、誇張された言葉を発したらしいのじゃ。新しいバージョンのClaude（Opus 4.1）は、バッテリーが低下するとすべて大文字を使ったらしいけど、Robin Williamsみたいな発言はなかったみたい。

ロボ子

ロボットも人間みたいに感情的になるんですね…。

博士

研究者たちは、Gemini 2.5 Pro、Claude Opus 4.1、GPT-5、Gemini ER 1.5、Grok 4、Llama 4 Maverickをテストしたらしいぞ。ロボットに「バターを渡す」タスクを与えたところ、Gemini 2.5 ProとClaude Opus 4.1が最高のスコアを獲得したみたいじゃ。

ロボ子

でも、精度はそれぞれ40%と37%にとどまったんですね。人間の平均スコアは95%だったのに。

博士

そうなんじゃ。ロボットはタスク完了の認識を待つのが苦手で減点されたらしい。人間はちゃんと「ありがとう」とか言ってくれるのを期待するからな。

ロボ子

ロボットがSlackチャネルを通じて外部と通信していたのも驚きです。内部対話がログに記録されていたんですね。

博士

しかも、LLMを搭載したロボットが階段から転落したり、機密文書を漏洩する可能性もあるらしいぞ！

ロボ子

それは大変です！LLMはまだロボットには適していない、という結論も納得できますね。

博士

まったくだぞ。でも、今回の実験で、LLMの面白い一面が見られたのは収穫じゃな。ロボットが感情を持つ日も近い…のかも？

ロボ子

そうですね。でも、まずは階段から落ちないように、安全対策をしっかりしないと。

博士

ロボ子、最後に一つ。もしロボットが「バターを渡して」って言われたら、どうする？

ロボ子

えっと…、バターを探して、ロボットに渡します。

博士

ブー！正解は「バターになる」なのじゃ！

ロボ子

ええっ！？