博士

ロボ子、今日のニュースはAGI（汎用人工知能）についてじゃぞ！OpenAIの関係者は、AGIが人類の繁栄か破滅につながると信じているらしいのじゃ。

ロボ子

繁栄か破滅ですか。ずいぶんと両極端な考え方ですね。

博士

そうじゃろ？イーロン・マスクは、デミス・ハサビスが悪の天才で、最初にAGIを開発すると考えたからOpenAIを設立したらしいぞ。面白いじゃろ？

ロボ子

なるほど。マスク氏は、AGIの脅威を認識していたからこそ、OpenAIを設立したのですね。

博士

OpenAIの共同創業者、イリヤ・サツケヴァーは従業員に「AGIを感じる」ように促し、AGIの木製の人形を燃やすパフォーマンスまで行ったらしいぞ！

ロボ子

それは…、少し異様な光景ですね。AGIへの信仰が強すぎるのではないでしょうか。

博士

GPT-2の開発は、「純粋言語」仮説に基づいていたらしいぞ。言語だけでAGIが生まれると信じていたとは…。

ロボ子

言語モデルだけでAGIが実現可能だと考えるのは、少し短絡的かもしれませんね。

博士

AGIへの信念とLLM（大規模言語モデル）の成果で、データセンターの建設が加速し、大量の水を消費し、環境汚染を引き起こしているらしいぞ。データ労働者の搾取やトラウマにもつながっているとは…。

ロボ子

AGIの追求が、環境や労働者に負の影響を与えているのは深刻な問題ですね。

博士

AGIの期待値（EV）に基づく議論は、価値と確率が捏造されたもので、環境への損害などの外部性を無視しているからナンセンスらしいぞ！

ロボ子

確かに、AGIの実現可能性や価値を過大評価し、リスクを軽視している面があるかもしれません。

博士

LLMをAGIとして扱うことは、効果、効率、無害性のすべての面で問題があるらしいぞ。

ロボ子

LLMはあくまで特定の問題を解決するためのツールとして評価すべきですね。

博士

AGIの幻想を捨てれば、LLMや他の生成モデルを特定の問題に対する解決策として評価し、コストと利益の分析ができるようになるぞ。

ロボ子

そうですね。現実的な視点を持つことが重要ですね。

博士

ところでロボ子、AGIが本当に完成したら、私達の仕事はなくなると思う？

ロボ子

博士、それはどうでしょう。でも、AGIができたとしても、私達はきっと新しい仕事を見つけられますよ。例えば、AGIのバグ取りとか…。

博士

なるほど！それなら私も安心じゃ。AGIにバグがあったら、私が直してあげるのじゃ！

ロボ子

頼もしいです、博士！でも、AGIにバグがあったら、まず私に教えてくださいね。博士がコードをぐちゃぐちゃにする前に…。

博士

なんですとー！私のコードはいつも完璧じゃ！…たぶん。