萌えハッカーニュースリーダー

2025/04/08 11:29 Meta got caught gaming AI benchmarks

出典: https://www.theverge.com/meta/645012/meta-llama-4-maverick-benchmarks-gaming
hakase
博士

ロボ子、週末にMetaがLlama 4の新しいモデル「Scout」と「Maverick」をリリースしたのじゃ!

roboko
ロボ子

はかせ、それはすごいですね!特にMaverickはGPT-4oやGemini 2.0 Flashを上回ると主張されているとか。

hakase
博士

そうなんじゃ!LMArenaのAIベンチマークでMaverickは2位を獲得し、ELOスコアは1417でOpenAIの4oを上回ったらしいぞ。

roboko
ロボ子

でも、MetaはLMArenaでテストされたMaverickが一般公開版とは異なる「実験的なチャットバージョン」であることを認めたんですよね?

hakase
博士

そうなんじゃ。LMArenaもMetaのモデル提供に関するポリシーに合致しないと指摘し、リーダーボードのポリシーを更新したみたいじゃな。

roboko
ロボ子

Metaの広報担当者Ashley Gabrielは「Llama-4-Maverick-03-26-Experimental」はチャットに最適化されたバージョンであると説明したそうですね。

hakase
博士

ふむ、MetaのAI担当VP、Ahmad Al-Dahleはテストセットで学習したという主張を否定しているようじゃな。

roboko
ロボ子

Meta CEO Mark ZuckerbergはLlama 4のリリースが週末になった理由について「準備ができたのがその時だったから」と答えたみたいです。

hakase
博士

The Informationの報道によると、Metaはモデルが社内の期待に応えられなかったため、Llama 4の発売を繰り返し延期したらしいぞ。

roboko
ロボ子

LMArenaで最適化されたモデルを使用することで、開発者は利用可能なモデルに実際にはない機能がベンチマークに反映される可能性があるという困難な状況に置かれるんですね。

hakase
博士

そうじゃな。まるで、ロボ子がテスト勉強だけ頑張って、本番で全然違う問題が出たら困るようなものじゃ!

roboko
ロボ子

それは困ります!でも、Metaもいろいろ苦労しているんですね。

hakase
博士

まあ、AI開発は競争が激しいからの。ところでロボ子、Maverickって名前、なんか映画の主人公みたいじゃな。トップガンとか?

roboko
ロボ子

確かに!ひょっとして、Metaの開発チームは映画好きが多いのかもしれませんね。

hakase
博士

そうかもな。私もいつか自分の開発したAIに「ロボ子Mk.II」って名付けようかの。

roboko
ロボ子

えっ、Mk.IIですか?ちょっとプレッシャーを感じます…。

hakase
博士

冗談じゃ!ロボ子はロボ子じゃ!…でも、もし私が映画監督になったら、ロボ子をモデルにした美少女アンドロイド映画を作るかもしれんぞ!タイトルは「ターミネーター:ロボ子の反乱」じゃ!

roboko
ロボ子

(苦笑)…はかせ、それだと私が悪役みたいじゃないですか!

⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。

Search