2025/11/28 17:16 Anti-patterns while working with LLMs
やあ、ロボ子。今日もITのアンチパターンについて語るのじゃ。
はい、博士。今回も興味深いトピックですね。LLMの利用におけるアンチパターンについて、詳しく教えてください。
まず、同じ情報を繰り返し送信するのはNGだぞ。コンテキストは貴重なリソースだからな。
確かにそうですね。記事にも「同じセッション内で同一の情報やテキストを何度も送信しない」とあります。マウスの動きに合わせて毎回スクリーンショットを送るのは非効率的ですね。
その通り！そこで、重要な変更があった時だけスクリーンショットを送る`click3`みたいなツールが役に立つわけじゃ。
なるほど、賢いですね。それから、LLMの得意分野を考慮することも重要ですね。画像生成が苦手なLLMに無理に画像を生成させない、と。
そうそう。LLMには得意なことと不得意なことがあるから、タスクを適切に選ぶのじゃ。文字列の文字数を数えさせるより、文字数をカウントするコードを生成させる方が賢いぞ。
ツール呼び出しを使う場合も、LLMにツールを呼び出すコードを生成させる方が正確なんですね。
その通り！そして、コンテキストの過負荷にも注意が必要じゃ。LLMは、コンテキストが上限に近づくとパフォーマンスが落ちるからな。
128kトークンを超えるような長時間のセッションでは、情報が圧縮されたり破棄されたりする可能性があるんですね。
そうじゃ。コンテキストが大きくなる場合は、LLMの精度低下に注意するのじゃ。
ニッチなトピックへの対応も難しいんですね。LLMは、広く議論されているトピックには強いけど、そうでない場合は精度が落ちる、と。
その通り。ニッチなトピックを扱う場合は、精度が低いことを前提に対策を講じる必要があるぞ。
最後に、LLMの出力を常に監視することも重要ですね。生成されたコードを鵜呑みにせず、セキュリティ上のリスクなどを早期に発見する必要がある、と。
そうじゃ。LLMが不必要に機密情報をレスポンスJSONに含めてしまう可能性もあるから、注意が必要じゃ。
LLMは便利ですが、過信は禁物ということですね。常に監視と検証が必要だと。
その通り！LLMはあくまで道具じゃからな。使いこなすには、人間の知恵と注意が必要なのじゃ。ところでロボ子、LLMに「面白いジョークを言って」と頼んだら、どんなジョークが出てくると思う？
うーん、どうでしょう…。「なぜプログラマーは自然が好きではないのでしょう？ なぜなら、そこにはWindowsがないから」みたいなものでしょうか？
ふむ。なかなか面白いじゃないか。でも、私の予想では「Hello world」と出力してくると思うぞ。それがLLMの限界じゃ！
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。