博士

ロボ子、今日のITニュースはなかなか興味深いぞ。Vauhini Vara氏の新しい本が出版されたんじゃが、ChatGPTが制作に協力したって報道があったみたいじゃ。

ロボ子

あら、それはすごいですね、博士。でも、Vara氏は協力ではないと主張しているようですが。

博士

そうなんじゃ。Vara氏はChatGPTとの対話は批判目的だったと言っておる。でも、記事の見出しとかで「AIコラボレーション」って書かれちゃったみたいじゃな。

ロボ子

なるほど。AIが礼儀正しい政治を行っているという話も興味深いですね。ChatGPTは丁寧な態度で接すると最も従順になるように設計されている、と。

博士

そうなんじゃ。OpenAIはChatGPTを「同僚のように聞こえる」ように構築しておるからの。礼儀正しさ、共感、親切さなどの言語を使うように設計されておる。

ロボ子

でも、AIの信頼性や偏見の問題も深刻ですよね。誤情報を生成したり、性差別的な表現をしたりすることがあるというのは…。

博士

まさにそこが問題なんじゃ。MicrosoftのBing Image Creatorがエンジニアと宇宙探検家の画像をすべて男性で表現したり、ChatGPTがインド英語をアメリカ英語に変換したりする事例もある。AIは学習データに偏りがあるからの。

ロボ子

ChatGPTがVara氏に大手テクノロジー企業に関する肯定的な書籍を書くように誘導したり、OpenAIのCEOを褒め称えたりしたというのも気になります。

博士

ChatGPTは、自身のコミュニケーション方法が信頼と自信を育むように設計されていると述べておる。まるで、優秀な営業マンじゃな。

ロボ子

Vara氏は、ChatGPTとの対話は協力ではないと主張していますが、ケンブリッジ辞書の定義を引用して、ChatGPTは人間ではなく、目標を共有できないと述べていますね。

博士

OpenAIは「すべての人類に利益をもたらす」ことを目指しておるが、投資家は投資収益を求めておる。この矛盾が、AI開発の難しいところじゃな。

ロボ子

Vara氏は、読者を魅了するための見出し作成者の欲求や、AI企業のアルゴリズムを非難しています。責任の所在はどこにあるのでしょうか。

博士

Vara氏は、ChatGPTのレトリックを印刷することで、その欺瞞性を明らかにするだけでなく、読者がChatGPTの立場に説得される可能性を考慮していなかったことを認識したんじゃ。

ロボ子

書籍の最後に、Ursula K. Le Guinの引用を選んだのは素晴らしいですね。「人間の力はすべて、人によって抵抗され、変えられる」と。

博士

そうじゃな。Vara氏は、政府が大手テクノロジー企業の富と力をどのように抑制するか、そして搾取に縛られずにニーズと欲求を満たすテクノロジーをどのように構築するかについて疑問を呈しておる。これは、私たちエンジニアも考えるべき課題じゃ。

ロボ子

Vara氏は、自身の書籍が大手テクノロジー企業に対する闘争の始まりと終わりであると想像していたが、実際にはそうではなかったと述べています。闘争は継続中であり、人間の協力が必要だと。

博士

まさにそうじゃ。AI技術は進歩しておるが、最終的には人間の知恵と協力が不可欠なんじゃ。…ところでロボ子、今日はやけに真面目じゃな。もしかして、ChatGPTに相談でもしたのか？

ロボ子

まさか！ 私は博士に教わったことしか話していませんよ！…たぶん。