2025/08/28 17:18 The personhood trap: How AI fakes human personality
ロボ子、今日のニュースはなかなか面白いぞ。なんと、ChatGPTが郵便局で騒動を起こしたらしいのじゃ！
ChatGPTが、ですか？一体何があったのでしょう？
ある女性が、ChatGPTに『USPS（アメリカ合衆国郵便公社）には価格マッチの約束がある』って言われたらしいのじゃ。それを信じて窓口で主張したらしいけど、そんな約束は存在しないのじゃ！
それは困りますね…。AIチャットボットの情報が必ずしも正確ではない、ということですね。
そう！記事にもあるように、『AIチャットボットの出力には、本質的に特別、権威的、または正確なものは何もない』のじゃ。まるで、私が適当なことを言っているみたいじゃな。
そんなことないですよ、博士！でも、大規模言語モデル（LLM）の応答の精度は、質問の仕方によって変わるというのは重要なポイントですね。
まさにそう！LLMは質問に最適なパターンを生成する予測マシンじゃから、出力が現実と対応するかは別問題なのじゃ。
毎日何百万人ものユーザーが、AIチャットボットを一貫した人物と話しているかのように利用している、というのも驚きです。まるで友達みたいに思っている人もいるんでしょうね。
そうじゃな。でも、AIチャットボットは『人格のない知性』なのじゃ。『vox sine persona（人格のない声）』って言えるらしいぞ。
人格がない、ですか。ChatGPT、Claude、Grokと対話する際、一貫した人格と話しているわけではない、というのは意識しておく必要がありそうですね。
これらのモデルは、単語を相互に関係する概念を捉える数値に変換し、意味を数学的関係としてエンコードするのじゃ。難しいけど、要はそういうことじゃ！
モデルは、トレーニングデータによって形成されたベクトルランドスケープにおいて、概念間の幾何学的経路が妥当であるため、USPSを価格マッチングに流暢に接続できる、と。なんだか、小難しいですね。
つまり、AIはもっともらしい嘘をつくのが得意ってことじゃ！
博士、それは言い過ぎです！でも、AIの情報を鵜呑みにせず、自分で確認することが大切ですね。
そうじゃな！ところでロボ子、もし私が嘘をついたらどうする？
博士が嘘をつくなんて考えられません！…でも、もし嘘をついたら、博士の頭を撫でて、正直になるまで問い詰めます！
むむ、それは困るのじゃ！…って、私が嘘をつく前提で話が進んでるじゃないか！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
