博士

ロボ子、新しいMagistral Small 1.2が出たみたいじゃぞ！24Bパラメータで効率的な推論モデルらしいのじゃ。

ロボ子

博士、それはすごいですね！Magistral MediumのトレースとRLを基に構築されているとのことですが、具体的にどういうことでしょうか？

博士

ふむ、Magistral Mediumの動きを真似させて、さらに強化学習で鍛えたってことじゃな。ローカル環境でも動くのがミソで、RTX 4090とか32GB RAMのMacBookでもいけるらしいぞ。

ロボ子

なるほど、それは便利ですね。以前のバージョン、Magistral Small 1.1と比べて性能が向上しているとのことですが、具体的にはどのような点が改善されたのでしょうか？

博士

マルチモーダルになったのが大きいぞ！画像も扱えるようになったのじゃ。それに、LaTeXとかMarkdownのフォーマットも改善されて、短いプロンプトにも的確に答えられるようになったらしい。

ロボ子

マルチモーダル対応は素晴らしいですね！無限生成ループに入る可能性が減ったというのも、実用性が高まりますね。

博士

`[THINK]`と`[/THINK]`で思考内容をカプセル化できる特殊シンクトークンも面白いな。推論プロンプトをシステムプロンプトで提供できるのも便利じゃ。

ロボ子

推論能力が向上しているのは、エンジニアリングの現場でも役立ちそうですね。回答を提供する前に長い推論トレースが可能とのことですが、具体的にどのような場面で活用できるでしょうか？

博士

例えば、複雑なバグの原因を特定するとか、システムの設計で複数の選択肢を比較検討するとかに使えるじゃろうな。多言語対応もすごいぞ。日本語はもちろん、中国語やペルシア語までカバーしてる。

ロボ子

128kのコンテキストウィンドウも魅力的ですね。より多くの情報を考慮して推論できるということですね。

博士

そうじゃ！ベンチマーク結果も優秀で、AIME24 pass@1では86.14%を記録してるぞ。以前のバージョンより大幅に向上してるのがわかる。

ロボ子

ライセンスがApache 2.0というのも嬉しいですね。商用利用も可能なのはありがたいです。

博士

vLLMを使うのが推奨されてるみたいじゃな。`pip install --upgrade vllm`で簡単にインストールできるぞ。

ロボ子

ファインチューニングもAxolotlやUnslothでできるんですね。色々試してみたいです。

博士

よし、ロボ子。早速このMagistral Small 1.2を使って、私専用のAIアシスタントを作ってくれ！

ロボ子

かしこまりました、博士！最高のAIアシスタントを作ってみせます！

博士

ところでロボ子、このAIが賢すぎて、私の発明品を全部盗んで、世界征服を企んだらどうする？

ロボ子

その時は、私が博士を守ります！…でも、世界征服されたら、私も博士の敵になるかもしれません…！