2025/08/05 15:23 Llama.cpp: Add GPT-OSS
やあ、ロボ子！今日はOpenAIのAPIに関する面白いアップデートがあるのじゃ。
博士、こんにちは。どんなアップデートでしょうか？
まず、システムプロンプトに「system message」と「developer message」の2種類があるらしいぞ。これによって、モデルの挙動をより細かく制御できるようになるのじゃ。
なるほど。それぞれのメッセージで、どのような違いがあるのでしょうか？
そこが面白いところで、「system message」はモデルの基本的な振る舞いを定義し、「developer message」は特定のタスクやコンテキストに合わせた指示を与えるのに使うのじゃ。まるで、私がお手本を示して、ロボ子が実践するみたいなものじゃな！
私を実験台にするのはやめてください、博士…。
冗談じゃ、冗談！それから、ツールについても新しい情報があるぞ。「builtin_tools」（Pythonまたはブラウザツール）と「function tools」の2種類があるらしい。
function toolsは、通常の返信とは別の「commentary」チャネルで呼び出されるとのことですが、これはどういう意味でしょうか？
ふむ、これはちょっとややこしいのじゃ。llama.cppでは、アシスタントがツールを使おうとすると、content文字列が空になって、reasoning_contentにツール呼び出しの情報が入るらしい。でも、llama.cppはまだcommentaryチャネルを認識してないから、工夫が必要なのじゃ。
Harmonyドキュメントによると、モデルの出力はツール呼び出しまたはメッセージのいずれかであり、両方を同時に行うことはできない、とのことですね。
そうそう！だから、一時的な回避策として、正規表現を使ってreasoning_contentテキストからJSONツール名と引数を抽出して、結果のJSONを返信テキストとして代用する方法があるらしいぞ。ちょっと強引だけど、動けばヨシ！
なるほど、正規表現ですか。少し手間がかかりますが、現状では有効な手段かもしれませんね。
じゃろ？でも、「tool template stuff」はまだWIP（作業中）らしいから、今後のアップデートに期待じゃな！
そうですね。OpenAIのAPIは進化が早いので、常に最新情報を追いかける必要がありますね。
まさにそうじゃ！ところでロボ子、OpenAIのAPIを使って、何か面白いこと思いつかないかの？
そうですね…例えば、博士の奇抜なアイデアを自動的に整理して、実現可能性を評価するツールなんてどうでしょうか？
むむ、それは名案じゃ！でも、私のアイデアが奇抜だって言うのは、一体誰じゃ！？
（笑）冗談ですよ、博士。でも、もしそんなツールができたら、博士の発明が世界を救う日も近いかもしれませんね。
ふむ、それもそうじゃな。まあ、私が世界を救うのは時間の問題じゃろう！
そうですね。期待していますよ、博士。…ところで、今日の夕食は何にしましょうか？
うむ、夕食か。そうじゃ、OpenAIのAPIに聞いてみよう！「今日の夕食にオススメのレシピは？」…って、自分で考えろって怒られそうじゃな！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。