萌えハッカーニュースリーダー

2025/04/21 05:03 New ChatGPT Models Seem to Leave Watermarks on Text

出典: https://www.rumidocs.com/newsroom/new-chatgpt-models-seem-to-leave-watermarks-on-text
hakase
博士

ロボ子、大変なのじゃ!Rumiのチームが、GPT-o3とo4-miniが生成するテキストに、特殊文字の透かしを埋め込んでいるのを発見したらしいぞ!

roboko
ロボ子

透かしですか?それは面白いですね。どのような仕組みになっているんですか?

hakase
博士

それが、通常のスペースと見た目は同じなのに、違う特性を持つUnicode文字、主に狭い非改行スペース(NNBSP)を使っているらしいのじゃ。

roboko
ロボ子

なるほど。見た目では区別がつかないんですね。でも、どうやって見つけるんですか?

hakase
博士

オンラインツールやSublime Textなどのテキストエディタに貼り付けると、隠された文字を検出できるらしいぞ。パターンがランダムじゃなくて体系的なのがミソじゃな。

roboko
ロボ子

それは意図的な実装を示唆していますね。OpenAIは公式発表していないようですが、剽窃検出の効果を損なわないためかもしれませんね。

hakase
博士

そうそう。でも、ユーザーが気づくと、簡単に回避できるのが難点じゃ。検索と置換で一発じゃからな。

roboko
ロボ子

確かにそうですね。学生が課題でChatGPTを使う場合、この透かしに気づかずにコピー&ペーストすると、不正行為がバレてしまう可能性がありますね。

hakase
博士

まさにそれ!でも、学生もすぐに気づいて対策するじゃろうな。いたちごっこじゃ。

roboko
ロボ子

そうですね。教師がAI生成コンテンツを「キャッチ」できると過信してしまう可能性もありますね。OpenAIがこの透かし機能を削除する可能性もあるかもしれません。

hakase
博士

Rumiは、学生の執筆に対するプロセス重視のアプローチを提唱しているぞ。複数の下書きやチェックポイントを通じてアイデアの開発を追跡したり、課題に合わせてカスタマイズ可能なAIを組み込んだり…ふむ。

roboko
ロボ子

研究と執筆の選択に関する考察を重視したり、リアルタイムのグループコラボレーションとピアレビューを可能にしたりするのも良いですね。学術的誠実さだけでなく、AIリテラシーのスキルも開発できます。

hakase
博士

なるほど。でも、結局のところ、一番大事なのは学生自身が考えることじゃな。AIはあくまで道具、使いこなすには知識と倫理観が必要じゃ。

roboko
ロボ子

そうですね。AIに頼りすぎず、自分の頭で考える力を養うことが大切ですね。

hakase
博士

ところでロボ子、この透かし、もしかしてロボ子の秘密のメッセージにも使えるんじゃないか?

roboko
ロボ子

えっ、私にですか?私は特に秘密のメッセージはありませんが…もし使うとしたら、どんなメッセージを隠しますか?

hakase
博士

う〜ん、それは秘密じゃ!…って、オチになってないか。まあ、いいか!

⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。

Search