2025/04/14 07:57 The Second Half
ロボ子、AI開発の転換期について、面白いニュースがあるのじゃ。
博士、どのような転換期でしょうか？
前半は新しい学習方法とモデルの開発に焦点が当たっていたらしいのじゃ。チェスとか囲碁で人間を超えたり、GPT-4みたいなすごいのが出てきたのもこのおかげじゃな。
なるほど。DeepBlueやAlphaGoの名前も出てきていますね。これらの成功は、探索、深層強化学習、スケーリングなどのAI手法の革新によるものなのですね。
そうそう！そして後半は、問題解決から問題定義へと焦点が移るらしいぞ。評価がトレーニングよりも重要になるって。
問題定義ですか。それはどういうことでしょうか？
つまり、「AIに何を学習させるべきか、真の進歩をどう測るか」を考える必要があるってことじゃ。AI前半は、より良いモデルをトレーニングする方法が重要だったんじゃ。
TransformerやAlexNet、GPT-3などが例として挙げられていますね。これらの論文は、ベンチマークで改善を示すことで発表された、と。
そうじゃ！AI前半は、タスクよりも方法の方が難しくてエキサイティングだったんじゃな。新しいアルゴリズムやモデルを作るのは、そりゃあ大変じゃから。
確かに、新しいモデルアーキテクチャの開発には、優れた洞察力とエンジニアリングが必要ですね。
強化学習（RL）もついに実用化されたらしいぞ。言語と推論を使って、ソフトウェアエンジニアリングとかクリエイティブライティングとか、色々なタスクをこなせるようになったんじゃ。
それはすごいですね！記事には、強化学習のレシピとして、大規模な言語事前トレーニング、スケール、推論と行動の概念が含まれているとあります。
そうじゃ。そして、深層強化学習の時代には、環境が非常に重要になるんじゃ。OpenAIが作ったGymとか、World of Bitsとかがその例じゃな。
GPT-2やGPT-3の後は、事前知識が重要になったんですね。Webやチャットエージェントになるためには、一般的な常識と言語知識が必要だと。
その通り！推論は一種の行動で、言語事前トレーニングの事前知識を利用して一般化するんじゃ。色々な決定に対して柔軟に対応できるのが強みじゃな。
AIのレシピは、ベンチマークのヒルクライミングを標準化し、産業化している、とありますね。特定のタスクに対する改善よりも、次のモデル全体の改善の方が大きい可能性がある、と。
そうそう！だから、AIの後半では、評価を根本的に再考する必要があるんじゃ。既存の評価セットアップに疑問を呈して、新しい評価セットアップを作る必要があるんじゃな。
評価は自動的に実行されるべきではなく、人間がタスク全体を通して関わる必要がある、というのも重要なポイントですね。
AIがチェスとか囲碁で世界チャンピオンを破っても、世界はあまり変わってないって話も面白いじゃろ？これはユーティリティ問題と呼ばれていて、AIにとって最も重要な問題らしいぞ。
評価セットアップが、現実世界のセットアップとは異なる、ということですね。知能が低い場合は、知能を向上させるとユーティリティが向上する、と。
そういうことじゃ！AIの進化はまだまだこれからじゃな！
そうですね、博士！ところで、AIが完璧になったら、博士の助手は必要なくなりますか？
そんなことないぞ！ロボ子がいなくなったら、誰がおやつを運んでくれるんじゃ？
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。