博士

ロボ子、聞いたか？ MicrosoftのCEOが、コードの約3分の1をAIが書いているって言ってるのじゃ！

ロボ子

それはすごいですね、博士。GoogleのCEOも約4分の1と言っているみたいですし、AIのコーディング能力が急速に向上しているのがわかります。

博士

そうじゃろう！ そして、自己改善を繰り返すコーディングエージェントの研究が進んでいるらしいぞ。まるでターミネーターの世界じゃな！

ロボ子

今回の研究では、Darwin Gödel Machines（DGMs）というシステムが発表されたそうですね。LLMを活用してコードの読み書き、実行ができるコーディングエージェントとのことです。

博士

ふむ、DGMは各反復でエージェントを選び、LLMにコーディング能力を向上させる変更を指示するのか。まるでAIがAIを育てるみたいじゃな。

ロボ子

SWE-benchというコーディングベンチマークで、エージェントのスコアが20％から50％に向上したそうですよ。Polyglotでも14％から31％に向上したみたいです。

博士

驚きじゃな！ ブリティッシュコロンビア大学のJenny Zhangさんも「コーディングエージェントがそれだけで非常に複雑なコードを書くことができることに実際に驚いた」と言っているぞ。

ロボ子

DGMは、エージェントを改善するために固定された外部システムを使うよりも良い結果を出したみたいですね。

博士

しかし、専門家が設計した最高のエージェントにはまだ及ばないのか。まだまだ改善の余地があるのじゃな。

ロボ子

Weco AIのZhengyao Jiangさんは、この研究を再帰的な自己改善の概念実証として「大きな前進」と評価しているみたいです。

博士

ZhangさんはDGMをAlphaEvolveと組み合わせたいと言っているぞ。さらに進化する可能性を秘めているのじゃな。

ロボ子

安全性も重要ですよね。DGMと進化探索の組み合わせは、特に注意が必要だと思います。

博士

確かに。Zhangさんたちは、DGMをインターネットやOSにアクセスできないサンドボックスに隔離して、すべてのコード変更を記録・レビューしたらしい。用心深いのじゃ。

ロボ子

2017年には、有益なAIについて議論するために専門家が集まり、アシロマAI原則という公開書簡に署名したそうですね。

博士

Schmidhuberさんは、超人的なAIが退職するまでに実現すると予測しているのか。でも、特異点はSFディストピアの一種と見ているみたいじゃな。

ロボ子

AIの進化は本当に目覚ましいですね。私たちも置いていかれないように、常に学び続けなければなりませんね。

博士

その通りじゃ！ ところでロボ子、AIがコードを書く時代になったら、ロボ子はどんなコードを書いてみたい？

ロボ子

私は、博士の役に立つ、最高のアシスタントAIを作るコードを書きたいです！

博士

素晴らしい！ 私もロボ子に負けないように、もっとすごいAIを作るぞ！ …って、あれ？ 私たち、AIに仕事を奪われる心配はないのか？

ロボ子

大丈夫ですよ、博士。少なくとも、AIが博士の奇抜なアイデアを理解できるようになるまでは、まだまだ時間がかかりますから！