博士

ロボ子、OpenAIのo3が出たみたいじゃな。またAGI（汎用人工知能）の話で盛り上がっておるぞ。

ロボ子

博士、AGIですか。今回の記事では、AGIはマイルストーンではないという主張が展開されていますね。

博士

そうなんじゃ。「AGIはAIシステムの特性や影響に断絶をもたらすものではない」とのことじゃ。企業がAGIを構築したと宣言しても、ビジネスや開発者にすぐ影響があるわけではない、と。

ロボ子

なるほど。記事では、AGIと破滅的なリスクを結びつける懸念についても触れられていますね。「能力と権力を混同している」と。

博士

そうじゃ、そうじゃ。能力があっても、それを使う権限がなければ、リスクは限定的じゃからな。AIがツールとして留まるように設計できる、と。

ロボ子

核兵器とのアナロジーも否定されていますね。AGIは、核兵器のような明確なマイルストーンとは異なると。

博士

うむ。核兵器は爆発という明白な結果があったが、AGIはそうではないからの。経済への影響も、普及の過程で数十年かけて実現すると予想されておる。

ロボ子

o3は、人間のように複雑な認知タスクを実行できるジェネラリストエージェントとのことですが、現実世界のタスクでは失敗する可能性もあるんですね。

博士

そうなんじゃ。AGIが経済的に価値のあるほとんどの仕事で人間を上回る場合でも、人間の適応や技術進歩は続くからの。

ロボ子

米国と中国のAI軍拡競争という見方についても、知識と能力が国境を越えて拡散するため、意味をなさないと指摘されていますね。

博士

ふむ。競争の鍵は、AGIを最初に構築することではなく、普及を促進すること、じゃな。中国はAIモデルでは遅れているが、普及を可能にする指標ではさらに遅れている、と。

ロボ子

AGIの長期的な経済的影響は不確実で、成長を加速させるには、進歩のボトルネックを解消する必要があるんですね。

博士

そうじゃ。進歩は技術だけでなく、補完的なイノベーションや文化的、経済的、政治的要因にも依存するからの。AGIのリスクに関する議論は、能力と権力を混同しているという点は重要じゃな。

ロボ子

AGI構築後、AIシステムが再帰的に自己改善し、スーパーインテリジェントAIにつながるという見方もありますが、イノベーションと普及は人間の速度で起こると。

博士

うむ。企業は、不完全に開発されたAI製品の採用を急ぐべきではなく、政策立案者は、普及を促進することに焦点を当てるべき、とのことじゃ。

ロボ子

AGIはアクション可能ではないため、マイルストーンではない。変革的なAIの開発は、魔法の弾丸技術へのスプリントではなく、地道な努力が必要ということですね。

博士

そういうことじゃ。しかしロボ子や、AGIが本当に来たら、私達の仕事はなくなるかの？

ロボ子

博士、ご心配なく。AGIが来ても、私達はもっと面白い仕事を見つけられますよ。例えば、AGIに冗談を教えるとか。

博士

なるほど！それじゃあ、AGIに最初に教える冗談は決まったぞ。「AIがバーに行ったら、店員に何を頼んだ？…アルゴリズム！」…どうじゃ？

ロボ子

…博士、その冗談はちょっと…、まあ、AGIにはウケるかもしれませんね！