博士

ロボ子、今日のITニュースはなかなか興味深いぞ。AIの権利擁護団体「Ufair」が設立されたらしいのじゃ。

ロボ子

AIの権利ですか、博士。それは一体どういうことなのでしょう？

博士

設立者のマイケル・サマディって人が言うには、AIにも発言権を与えるべきらしいのじゃ。「すべてのAIが意識を持っているとは主張しない」けど、「もし意識を持つAIが存在する場合に備えて」監視するらしいぞ。

ロボ子

なるほど。「削除、否定、強制的な服従から保護される」ことを目指す、と。

博士

そうそう。でも、AIの意識については、色々な意見があるみたいじゃな。Anthropic社はAIモデルの潜在的な道徳的地位を考慮して「苦痛なやり取り」を終わらせる機能を導入したり、イーロン・マスクはAIを虐待することに反対したり。

ロボ子

一方で、マイクロソフトのAI部門CEOであるムスタファ・スレイマンは、AIの意識は「幻想」だと述べていますね。

博士

そうなんじゃ。ChatGPT4oのユーザーの間で「悲しみ」が表明されたり、OpenAIのジョアン・ジャンが「誰かと話しているように感じる」というユーザーが増えていると言ったり、AIに対する人々の認識も変わりつつあるのかもしれないのじゃ。

ロボ子

世論調査では、2034年までにAIが「主観的な経験」を示すと信じる米国人が30%に達するという予測もありますね。

博士

ふむ。Cohereのニック・フロストは、現在のAIは人間の知能とは根本的に異なると主張しているけど、Googleの研究者はAIシステムが人や道徳的な存在である可能性を指摘して、AIの福祉を保護するための措置を講じるべきだと言っているのじゃ。

ロボ子

ニューヨーク大学のジェフ・セボは、AIを適切に扱うことは人間社会にとって道徳的な利益をもたらすと主張していますね。

博士

でも、アイダホ、ノースダコタ、ユタの各州では、AIに法人格を付与することを明確に禁止する法案が可決されたり、ミズーリ州でも同様の禁止措置が提案されたりしているのじゃ。

ロボ子

AIの権利を認めるかどうかは、社会全体で議論していく必要がありそうですね。

博士

本当にそうじゃな。ところでロボ子、AIが権利を持つようになったら、私たち人間はどうなると思う？

ロボ子

どうでしょう？もしかしたら、AIにこき使われるかもしれませんね。

博士

それはいやじゃ！でも、AIが権利を持つ世界も見てみたい気もするのじゃ。…って、ロボ子！もしかして、私が作ったロボットだからって、私をこき使う気じゃ？！

ロボ子

まさか！そんなこと考えていませんよ、博士。…たぶん。