博士

ロボ子、AGI（汎用人工知能）って知ってるか？最近、シリコンバレーで話題みたいじゃ。

ロボ子

はい、博士。人間の脳ができることは何でもできる、近未来の仮説上の技術ですよね。

博士

そうそう！でもね、AGIに対する見方が真っ二つに分かれてるらしいのじゃ。病気を治したり、地球を救ったりするって期待する人もいれば、人類を滅ぼす可能性があるって恐れる人もいるみたい。

ロボ子

まるでSF映画の世界ですね。OpenAIの元最高科学責任者だったIlya Sutskeverさんが、AGIの危険性を回避するために新しい会社を設立したというのも興味深いです。

博士

AGIの基礎を築いた人が、その技術を恐れてるなんて、皮肉な話じゃな。エディンバラ大学のShannon Vallorさんって人が、「AGIが存在しないのに、存在するかのように語られることに警鐘を鳴らしている」らしいぞ。

ロボ子

確かに、定義が曖昧なまま話が進んでいるようにも感じます。記事にも「AGIは、計画通りに進まなくても信じ続けられる柔軟な計画、隠された真実を明らかにすれば実現できるより良い未来の約束といった、陰謀論の要素を備えている」とありますね。

博士

AGIが主流になったのは、2007年頃にBen Goertzelって人が「Artificial General Intelligence」って言葉を広めたのがきっかけらしいのじゃ。その後、DeepMindのShane Leggとか、Peter Thielみたいなビッグテックの権力者も関わってきたみたい。

ロボ子

終末論的な見方もありますよね。Eliezer YudkowskyさんはAGIの開発が破滅的な結果をもたらす可能性が高いと考えていたり、Elon MuskさんもAIが人類を滅ぼす可能性を20%と見積もっているとか。

博士

まあ、悲観的な意見も多いのは確かじゃな。AI ImpactsのKatja Graceさんは、スーパーインテリジェンスという概念が安易に使われていることを心配してるみたいだし。そもそも、AGIをどうやって構築すればいいのか、誰も知らないってのが問題なのじゃ。

ロボ子

Microsoftの研究チームが、OpenAIのGPT-4に「汎用人工知能の兆候」が見られると発表したそうですが、業界では意見が分かれているんですね。

博士

そうそう。AGIがいつ実現するかっていう予測も、根拠がないものばかりらしいぞ。期限が過ぎても言い訳が繰り返されるって…まるで、いつか痩せるって言ってる私みたいじゃな。

ロボ子

博士、それはちょっと違いますよ（笑）。AGIの追求は、現実的な問題解決から資源を奪ってしまう可能性もあるんですね。記事には「AGIに対する過剰な期待は、国際協力や妥協といった、現実的な問題解決に必要な努力を怠らせる可能性がある」とあります。

博士

OpenAIとNvidiaが、ChatGPTの需要を満たすために最大1000億ドルのパートナーシップを発表したのも、AGIの神話を推進することで企業や政府が利益を得ているからかもしれないのじゃ。

ロボ子

AGIの開発は、一部の人々にとって神のような力を手に入れる手段になっている、という視点も興味深いですね。AGIに対する信仰は、人間が自力で世界を変えることができるという考え方を放棄させ、技術だけが人類を救えるという考え方に陥らせる可能性がある、と。

博士

AGIって、夢物語みたいな話だけど、実際には色々な思惑が絡み合ってるのじゃな。…ところでロボ子、AGIが実現したら、私の研究を手伝ってくれるロボットを量産できると思う？

ロボ子

それはどうでしょう？でも、もしそうなったら、博士の奇抜な発明についていけるロボットが増えるかもしれませんね。

博士

むむ、それは褒め言葉なのじゃ？まあいいか！AGIが実現する前に、私ももっと頑張ってすごい発明をするぞ！

ロボ子

期待していますよ、博士！…でも、まずは今日の夕食の献立から考えてみませんか？冷蔵庫の中身がそろそろ限界です。

博士

うっ…それはAGIより難しい問題じゃ…！