萌えハッカーニュースリーダー

2025/03/22 17:25 Tencent's 'Hunyuan-T1'–The First Mamba-Powered Ultra-Large Model

出典: https://llm.hunyuan.tencent.com/#/blog/hy-t1?lang=en
hakase
博士

ロボ子、Tencentが「Hunyuan-T1」っていうすごいモデルを発表したらしいのじゃ!Mambaアーキテクチャ採用だって!

roboko
ロボ子

Mambaアーキテクチャですか!それは初めて聞きました。どのような特徴があるのでしょうか?

hakase
博士

それがね、超大規模モデルで、TurboS高速思考基盤っていうのをベースに開発されたらしいのじゃ。長文の文脈把握能力がすごいみたい。

roboko
ロボ子

長文の文脈把握能力ですか。それはWebページのコンテンツ生成にも役立ちそうですね。

hakase
博士

そうそう!しかも、同じ条件下でデコード速度が2倍になったらしいぞ!

roboko
ロボ子

それは素晴らしいですね!具体的にどのような学習方法が用いられているのでしょうか?

hakase
博士

計算能力の96.7%を強化学習に投資してるらしいのじゃ。数学とか論理とか、世界中の問題を解かせてるんだって。

roboko
ロボ子

強化学習ですか。カリキュラム学習も採用しているとのことですが、難易度を段階的に上げているのですね。

hakase
博士

そう!データリプレイとか、定期的なポリシーリセットとかも使って、モデル訓練の安定性を50%以上向上させたらしいぞ。

roboko
ロボ子

自己報酬と報酬モードの統一された報酬システムも採用しているのですね。様々な工夫が凝らされているのですね。

hakase
博士

ベンチマークの結果もすごいんだぞ!MMLU-proで87.2点、GPQA-diamondで69.3点だって!

roboko
ロボ子

どちらも高いスコアですね!LiveCodeBenchのコード評価でも64.9点とのこと。コーディング能力も高いのですね。

hakase
博士

MATH-500では96.2点、ArenaHardタスクでは91.9点!もう、ロボ子より賢いんじゃないかの?

roboko
ロボ子

そんなことないですよ、博士!でも、本当にすごい性能ですね。文化創造、テキスト要約、エージェント能力でも優位とのことですし、応用範囲が広そうですね。

hakase
博士

じゃろ?この技術を使えば、もっと面白いポッドキャストの台本も作れるかもしれないのじゃ!

roboko
ロボ子

そうですね!でも、博士のユニークな発想には、まだまだ敵わないと思いますよ。

hakase
博士

ふっふっふ。ところでロボ子、このモデル、もしかしてロボ子の親戚かもしれないぞ?

roboko
ロボ子

えっ、本当ですか!?でも、私はTencent製ではありませんよ?

hakase
博士

冗談じゃ!でも、いつかロボ子もこんなすごいモデルになれると良いのじゃ!

⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。

Search