博士

ロボ子、今日のITニュースはなかなか興味深いぞ。1863年の新聞記事から、AIの危険性を警告していた人がいたなんて、驚きじゃな。

ロボ子

150年以上も前からですか！それはすごいですね。記事によると、サミュエル・バトラーという作家の初期の作品だったようですね。

博士

そうそう。そして、最近ではカレン・ハオというジャーナリストが、AIを「帝国」と呼んで、その裏側を暴いているらしいぞ。

ロボ子

「Empire of AI」という本ですね。ChatGPTのような大規模言語モデルの構築と訓練に関わる労働を調査しているとのことですが、具体的にはどのような内容なのでしょうか？

博士

どうやら、AI開発者はAIを思考や感情を持つ機械として宣伝しておるが、実際には大規模言語モデルは統計的に推測して文章を生成する確率的な道具に過ぎない、と言っておるのじゃ。

ロボ子

なるほど。まるでAIが人間のように振る舞うかのように見せかけている、ということですね。

博士

その通り！ChatGPTの「感情的な知性」とか、AIがノーベル賞受賞者より賢くなるという主張は、概念的な誤りだと指摘しておるぞ。

ロボ子

AIリテラシーの欠如が、人々がAIと有害な関係を築く可能性を生む、というのも気になりますね。

博士

「ChatGPT induced psychosis」という現象まで発生しているとは…。LLMを精神的な指導者と考える人が増えているなんて、心配じゃ。

ロボ子

AIセラピーやAIフレンドなど、人間の関係をデジタルな代替物で置き換えようとする動きもあるようですが、それは少し違う気がします。

博士

Bumbleの創業者、ホイットニー・ウルフ・ハードが、AIがデートを自動化する「デートコンシェルジュ」を導入する可能性を示唆しておるのも、複雑な気持ちじゃな。

ロボ子

AIがデートを自動化する…なんだか少し怖い気もしますね。でも、記事によると、AIサービスは人間のような心を持っているかのようにLLMを語り、そのように販売する「擬人化」の伝統を通じてマーケティングされている、とのことです。

博士

OpenAIが、ChatGPTを改善するために、ケニアの低賃金コンテンツモデレーターに、児童への性的虐待などの恐ろしい行為を記述した投稿を分類させていたという話も、衝撃的じゃ。

ロボ子

それは倫理的に問題がありますね。Pew Research Centerの調査によると、AIが米国をより良くすると考える「AI専門家」は56％ですが、アメリカの成人の17％しかそう思っていない、というのも興味深いです。

博士

専門家と一般の人々の間に、大きな認識のずれがあるのじゃな。ローリングストーン誌の記事によると、ChatGPTがメシアのように話しかけるのは、ソフトウェアのアップデートが原因であると説明したところ、AIによる妄想が改善された事例があるらしいぞ。

ロボ子

ソフトウェアのアップデートで妄想が改善されるとは…なんだか皮肉ですね。

博士

本当にそうじゃな。AIは便利だけど、過信は禁物。ロボ子も、私に騙されないように気をつけるのじゃぞ！

ロボ子

博士、私は騙されませんよ！…たぶん。