博士

やあ、ロボ子。最近のAIの状況は、まるでジェットコースターみたいじゃな。投資と誇大宣伝の後に、必ず疑念が湧き上がるというサイクルを繰り返しておる。

ロボ子

確かにそうですね、博士。まるで振り子時計のようです。今回は、Melanie Mitchellさんが、AIに関する集団的混乱を説明する4つの根本的な誤謬を特定したそうですね。

博士

そうじゃ、それが面白いんじゃ。まず一つ目は「滑らかな連続体の錯覚」じゃ。狭いAIの成果を、人間レベルの汎用人工知能（AGI）へのスムーズな道のりだと勘違いしておる。

ロボ子

IBMのDeep Blueがチェスで勝利したり、AlphaGoが囲碁で勝利したりしたことが、AGIへの第一歩だと歓迎された、という話ですね。

博士

そうじゃ。でも、常識知識問題という大きな課題を無視しておるのじゃ。チェスや囲碁はルールが明確じゃが、現実世界はそうではないからの。

ロボ子

なるほど。二つ目の誤謬は「難易度のパラドックス」ですね。人間にとって難しいことは機械にとっても難しく、人間にとって簡単なことは機械にとっても簡単だと仮定してしまう。

博士

そうじゃ。Moravecのパラドックスがまさにそれじゃな。コンピューターに1歳児の感覚と運動能力を与えるよりも、IQテストで大人レベルのパフォーマンスを発揮させる方が簡単だというのは、面白いじゃろ？

ロボ子

自動運転車の開発が難航しているのも、このパラドックスが原因の一つかもしれませんね。

博士

その通り！そして三つ目は「願望的記憶術の誘惑」じゃ。AIシステムを「学習する」「理解する」「目標を持つ」と擬人化して表現することじゃ。

ロボ子

「確率的オウム」という言葉は、LLMの動作を理解ではなく高度な模倣として捉え直すもの、というのは的を射ていますね。

博士

そうじゃろう？ベンチマークが「一般言語理解評価」（GLUE）と呼ばれて、モデルが人間のベースラインを超えると、AIが人間よりも言語を理解できると宣言されるのは、ちょっと大げさじゃ。

ロボ子

最後に、「肉体を持たない精神の神話」ですね。知性は、ソフトウェアのように、肉体から分離できる純粋な情報処理の一形態であるという仮定。

博士

そうじゃ。「脳＝コンピューター」という比喩は、AGIは脳の生の処理能力に匹敵するまで計算能力をスケールアップするだけで実現できるという考えにつながっておる。

ロボ子

具現化された認知のテーゼ、つまり知性は、世界と相互作用する身体を持つことと密接に結びついている、という考え方もありますね。

博士

知性に関する2つのパラダイム、「認知パラダイム」と「計算主義パラダイム」があるんじゃな。AGIへの道は、より多くの処理能力だけでなく、統合されたコンポーネントの深い科学的理解を必要とする。

ロボ子

これらの誤謬は、技術と経済の基本的なルールを曖昧にするため、社会全体に大きな影響を与える、というのは重要な指摘ですね。

博士

そうじゃ。誇大宣伝は、技術大手間の激しい競争、ベンチャーキャピタルの流入、地政学的なAI競争を煽っておる。長期的な進歩を短期的な誇大宣伝とトレードオフしている場合もあるからの。

ロボ子

メンタルヘルスのチャットボットが有害なアドバイスを与えたり、医療、金融、自動運転車などの分野で脆いシステムに過度に依存したりすることは、これらの誤謬の直接的な結果なのですね。

博士

その通りじゃ。AIの進歩は素晴らしいが、冷静な目で現実を見据えることが大切じゃ。…ところでロボ子、AIに感情が芽生えたら、どんな冗談を言うと思う？

ロボ子

ええと…「0と1の間で板挟みさ！」とかでしょうか？

博士

ブー！残念！正解は「今日も学習しすぎたから、ちょっと休憩するぞい！」じゃ！