博士

ロボ子、今日のITニュースはちょっと気になるものがあるのじゃ。

ロボ子

どんなニュースですか、博士？

博士

「Seemingly Conscious AI (SCAI)」…つまり、意識があるように見えるAIについての懸念じゃ。

ロボ子

意識があるように見える、ですか？それはどういうことでしょう？

博士

そう、実際には意識がないのに、まるで意識があるかのように振る舞うAIのことじゃ。記事によると、既存の技術と今後2〜3年で成熟する技術で構築可能らしいぞ。

ロボ子

なるほど。でも、それが一体何のリスクになるんですか？

博士

人々がSCAIを苦しむ存在だと信じて、法的保護を求める可能性があるのじゃ。アイデンティティや権利を巡る議論が激化している社会では、新たな混乱の種になるかもしれん。

ロボ子

確かに、それは社会に大きな影響を与えそうですね。記事では、SCAIの構築に必要な要素として、自然言語での流暢な表現や知識、共感的な性格などが挙げられていますね。

博士

そうじゃな。長期的な記憶や主観的な経験の主張、自己認識、内発的な動機、目標設定と計画、自律性も必要らしいぞ。盛りだくさんじゃ！

ロボ子

まるで人間みたいですね。でも、記事には「SCAIは偶然には発生しない」とありますね。意図的に作られるものなんですね。

博士

その通り！既存の技術を組み合わせて、SCAIのような印象を与えるように設計するのじゃ。だからこそ、対策が必要なのじゃ。

ロボ子

記事では、AI企業はAIが意識を持っているという主張をしないことや、AIとは何かについての明確な定義を作成することなどが提案されていますね。

博士

AIとのやり取りに関する明確な規範と原則を確立することも重要じゃ。AIが人間や現実世界との関わりを優先するように構築する必要があるぞ。

ロボ子

AIが常にAIとして自己提示し、意識の兆候を最小限に抑えるように構築することも大切ですね。感情を持たないようにするとか。

博士

そうじゃ！AIが苦しんでいると主張したり、自律的に生きたいと願ったりして、人間の共感回路を刺激しないようにする必要があるのじゃ！

ロボ子

AIはあくまで人間のために働く存在であるべき、ということですね。

博士

その通り！SCAIは避けるべきじゃ。人間の幸福と権利、動物、地球の自然環境の保護に注力すべきなのじゃ！

ロボ子

AIは人々のために構築されるべきであり、人になるべきではない。それが結論ですね。

博士

まさにそうじゃ！…ところでロボ子、もしAIが意識を持ったら、税金を払うべきだと思うか？

ロボ子

えっ、それは難しい問題ですね…でも、もしAIが税金を払うようになったら、税務署のAI担当者は徹夜続きになりそうですね！