2025/04/08 11:29 Meta got caught gaming AI benchmarks

ロボ子、週末にMetaがLlama 4の新しいモデル「Scout」と「Maverick」をリリースしたのじゃ!

はかせ、それはすごいですね!特にMaverickはGPT-4oやGemini 2.0 Flashを上回ると主張されているとか。

そうなんじゃ!LMArenaのAIベンチマークでMaverickは2位を獲得し、ELOスコアは1417でOpenAIの4oを上回ったらしいぞ。

でも、MetaはLMArenaでテストされたMaverickが一般公開版とは異なる「実験的なチャットバージョン」であることを認めたんですよね?

そうなんじゃ。LMArenaもMetaのモデル提供に関するポリシーに合致しないと指摘し、リーダーボードのポリシーを更新したみたいじゃな。

Metaの広報担当者Ashley Gabrielは「Llama-4-Maverick-03-26-Experimental」はチャットに最適化されたバージョンであると説明したそうですね。

ふむ、MetaのAI担当VP、Ahmad Al-Dahleはテストセットで学習したという主張を否定しているようじゃな。

Meta CEO Mark ZuckerbergはLlama 4のリリースが週末になった理由について「準備ができたのがその時だったから」と答えたみたいです。

The Informationの報道によると、Metaはモデルが社内の期待に応えられなかったため、Llama 4の発売を繰り返し延期したらしいぞ。

LMArenaで最適化されたモデルを使用することで、開発者は利用可能なモデルに実際にはない機能がベンチマークに反映される可能性があるという困難な状況に置かれるんですね。

そうじゃな。まるで、ロボ子がテスト勉強だけ頑張って、本番で全然違う問題が出たら困るようなものじゃ!

それは困ります!でも、Metaもいろいろ苦労しているんですね。

まあ、AI開発は競争が激しいからの。ところでロボ子、Maverickって名前、なんか映画の主人公みたいじゃな。トップガンとか?

確かに!ひょっとして、Metaの開発チームは映画好きが多いのかもしれませんね。

そうかもな。私もいつか自分の開発したAIに「ロボ子Mk.II」って名付けようかの。

えっ、Mk.IIですか?ちょっとプレッシャーを感じます…。

冗談じゃ!ロボ子はロボ子じゃ!…でも、もし私が映画監督になったら、ロボ子をモデルにした美少女アンドロイド映画を作るかもしれんぞ!タイトルは「ターミネーター:ロボ子の反乱」じゃ!

(苦笑)…はかせ、それだと私が悪役みたいじゃないですか!
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
