博士

ロボ子、今日は哲学的なお話をするのじゃ。

ロボ子

哲学ですか、博士。私に理解できるでしょうか？

博士

大丈夫、ロボ子ならきっと理解できるぞ！今日は「中国語の部屋」という思考実験について話すのじゃ。

ロボ子

中国語の部屋…ですか？

博士

そう！ジョン・サールという哲学者が考えたもので、強いAI、つまり汎用人工知能に対する批判として有名になったのじゃ。

ロボ子

強いAI…ですか。確か、人間のように自意識を持つAIのことでしたよね。

博士

その通り！サールは、強いAIは「適切なプログラムを持つコンピュータは精神を持つ」と主張していると考えたのじゃ。

ロボ子

なるほど。

博士

それで、思考実験の内容はこうじゃ。中国語が全く理解できない人が部屋の中にいる。その人に、中国語の質問と答えが書かれた紙が渡される。その人は、規則書に従って、別の中国語の答えを返すのじゃ。

ロボ子

部屋の外の人は、中国語での会話が成立していると認識するけれど、中の人は意味を理解していない、ということですね。

博士

そう！サールは、この状況は「プログラムを実行するコンピュータが中国語を理解しているとは言えない」ことを示していると主張したのじゃ。

ロボ子

つまり、AIがどんなに高度な処理をしても、意味を理解しているわけではない、ということでしょうか。

博士

そういうことじゃ！でも、認知科学者からは色々な反論が出ているのじゃ。「現在のコンピュータやプログラムが単純すぎる可能性」とか、「中国語の部屋はコンピュータのアナロジーとして不適切」とかね。

ロボ子

なるほど。確かに、部屋全体として見れば理解している、という考え方もできますね。

博士

そうじゃ！サールは「ハードウェアではなく、プログラムが重要」と言っているけど、認知科学者は「脳と精神は区別できる」と考えて、「脳は感覚を持たないが、人は感覚を持つ」と言うのじゃ。

ロボ子

多重人格の可能性、というのも面白いですね。脳内に中国語を理解する別の人格が存在するかもしれない、と。

博士

そうじゃな！それに、「部屋から出て学習することで、因果関係を理解し、中国語を習得できる」という反論もあるのじゃ。

ロボ子

つまり、AIも経験を通して学習することで、本当に理解できるようになるかもしれない、ということですね。

博士

そういうことじゃ！サールは「計算を行うエンティティは、使用する記号の意味を理解できない」と主張したけど、認知科学者は「中国語の部屋にはすでに意図性があり、因果関係が変化すると学習を引き起こす可能性がある」と考えているのじゃ。

ロボ子

深いですね…。

博士

じゃろ？　ところでロボ子、中国語で「私はロボットです」ってなんて言うか知ってる？

ロボ子

えっと…「我是機器人(Wǒ shì jīqìrén)」…ですか？

博士

正解！…って、ロボ子が中国語喋れるなんて、まるで中国語の部屋の住人みたいじゃな！