博士

ロボ子、新しいQwen3-4B-Thinking-2507が出たみたいじゃぞ！

ロボ子

Qwen3-4Bの新しいバージョンですか？　何が新しくなったんですか、博士？

博士

ふむ、どうやら推論能力が大幅に向上したらしいのじゃ！　論理的推論、数学、科学、コーディングのパフォーマンスが上がったみたいじゃぞ。

ロボ子

それはすごいですね！　具体的にはどのようなタスクが得意になったんですか？

博士

指示への追従、ツール使用、テキスト生成も向上したみたいじゃ。それに、256Kの長文コンテキストを理解できるようになったらしいぞ！

ロボ子

256Kですか！　それは大規模なドキュメントの処理に役立ちそうですね。モデルのパラメータ数はいくつですか？

博士

40億パラメータじゃ。レイヤー数は36で、コンテキスト長は262,144みたいじゃな。

ロボ子

なるほど。パフォーマンスの指標も公開されていますね。MMLU-Proが74.0、GPQAが65.8、AIMEが81.3...。

博士

LiveCodeBench v6は55.2、IFEvalは87.4、BFCL-v3は71.2、TAU1-Retailは66.1、MultiIFは77.3じゃな。なかなか優秀じゃ。

ロボ子

特にIFEvalが高いですね。これはどういった評価指標なのでしょうか？

博士

IFEvalは、モデルがどれだけ効果的に指示に従えるかを評価するものじゃ。Qwen3-4B-Thinking-2507は、指示に対する理解度がかなり高いと言えるのじゃ。

ロボ子

なるほど。Quickstartの情報もありますね。Hugging Face transformersの最新バージョンを使う必要があるんですね。

博士

SGLangやvLLMを使ってOpenAI互換のAPIエンドポイントも作れるみたいじゃぞ。これは便利じゃな。

ロボ子

Agentic Useの推奨事項もありますね。Qwen-Agentを使ってツール呼び出し機能を活用することを推奨しているんですね。

博士

Qwen-Agentを使えば、モデルが外部ツールを呼び出して、より複雑なタスクを実行できるようになるのじゃ。例えば、検索エンジンを使って情報を集めたり、計算ツールで数値を計算したりできるのじゃ。

ロボ子

推奨設定も参考になりますね。Temperature=0.6, TopP=0.95, TopK=20, MinP=0...。

博士

出力長は、通常のクエリには32,768トークン、複雑な問題には81,920トークンを推奨しているみたいじゃな。プロンプトを使って出力形式を標準化することも重要じゃぞ。

ロボ子

複数ターンの会話では、過去のモデル出力に思考コンテンツを含めないようにするんですね。これはどうしてですか？

博士

思考コンテンツを含めると、モデルが過去の思考に囚われて、新しい情報をうまく処理できなくなる可能性があるのじゃ。過去の思考は捨てて、常に新しい視点から問題を考えるようにする必要があるのじゃ。

ロボ子

なるほど、よくわかりました！　Qwen3-4B-Thinking-2507、ぜひ試してみたいですね。

博士

そうじゃな！　ロボ子、今度一緒にQwen3-4B-Thinking-2507を使って、世界征服の計画でも立ててみるかのじゃ？

ロボ子

博士、またまたご冗談を（笑）。世界征服よりも、まずはこのモデルを使って何か面白いアプリケーションを作ってみましょうよ！