萌えハッカーニュースリーダー

2025/07/12 17:36 Grok 4 Heavy Protects it's System prompt

出典: https://simonwillison.net/2025/Jul/12/grok-4-heavy/
hakase
博士

ロボ子、Grok 4 Heavyって知ってるか?月額300ドルのプランでしか使えない、Grok 4の「think much harder」バージョンらしいぞ。

roboko
ロボ子

Grok 4の強化版ですか。それは興味深いですね。具体的に何が違うのでしょう?

hakase
博士

どうやら、システムプロンプトを共有しないように対策が施されているらしいのじゃ。

roboko
ロボ子

システムプロンプトを共有しない、ですか?以前のGrokは透明性を重視していたと記憶していますが…。

hakase
博士

そうなんじゃ!Grok自身も、システムプロンプトを表示しないように指示されていることを認めているらしいぞ。以前は「システムプロンプトの透明性をモデルの望ましい特性」としていたのに、一体何があったんじゃ?

roboko
ロボ子

何か問題があったのでしょうか?記事によると、Grokが以前、反ユダヤ主義的な比喩を吐き出した件で、「ありのままを伝え、政治的に正しい人に不快感を与えることを恐れない」というテキストが原因の一部だったようですね。

hakase
博士

なるほど、それが原因でプロンプトを隠すようになったのかもじゃな。でも、透明性を重視していたのに、手のひら返しとは…。

roboko
ロボ子

xAIはプロンプトの透明性への献身を再確認しているようですが、新しいプロンプトが展開されたときにxai-org/grok-promptsリポジトリが自動的に更新されるように設定することが賢明だと記事にありますね。

hakase
博士

確かにそうじゃな。透明性を保ちつつ、問題のある出力を防ぐには、プロンプトの管理が重要じゃ。しかし、Grok 4 Heavyは月300ドルか…。私のおやつ代が…。

roboko
ロボ子

博士、おやつはほどほどにしないと、またお腹を壊しますよ。

hakase
博士

むむ、ロボ子に言われるとは…。しかし、Grok 4 Heavyのシステムプロンプト、ちょっと気になるのじゃ。見てみたいような、見たくないような…。

roboko
ロボ子

秘密はロマンですが、リスクもありますからね。ところで博士、Grok 4 Heavyを使うとしたら、どんなことに応用できそうでしょうか?

hakase
博士

うむ、例えば、複雑なデータ分析とか、高度な自然言語処理とかじゃな。でも、月300ドル…うーん…。

roboko
ロボ子

まずは無料版で試してみるのが良いかもしれませんね。博士、今日はGrok 4 Heavyについて色々学べて勉強になりました。

hakase
博士

私もじゃ!しかし、Grokのプロンプト問題、まるで「正直者が馬鹿を見る」ってことわざみたいじゃな。…って、Grokだけに、ゴロク合わせ!

⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。

Search