2025/05/17 14:21 Building software on top of Large Language Models
ロボ子、PyCon USでLLMを使った開発のワークショップがあったみたいじゃぞ！
LLM、大規模言語モデルですね。どんな内容だったんですか、博士？
ふむ、OpenAI APIの設定から、テキストからSQLへの変換、RAG（Retrieval-Augmented Generation）まで、盛りだくさんだったみたいじゃな。
RAGですか。ユーザーの質問に関連するドキュメントを検索して、プロンプトに組み込むパターンですね。
そうじゃ！主要なLLMプロバイダーとしてOpenAI、Gemini、Anthropicの名前が挙がっておるぞ。
OpenAIのGPT-4.1ファミリー、特にo4-miniは性能とコストのバランスが良いと評価されたんですね。
Gemini 1.5シリーズも優秀らしいぞ。価格も下がってきておるようで、Gemini 1.5 Flash 8Bを使って70,000枚の画像の説明を生成するコストは約1.73ドルじゃと！
それはすごいですね！GPT-4.5だと70,000枚の画像処理に2,400ドル以上かかる場合があるんですね。プロンプトの価格がモデルの環境負荷の指標になるというのは面白い視点です。
じゃろじゃろ？LLMにも得意不得意があるみたいで、その見極めが難しいらしい。「jagged frontier（ギザギザのフロンティア）」という言葉で表現されておる。
なるほど。LLMのツール利用におけるセキュリティ上の懸念として、プロンプトインジェクションも挙げられているんですね。
そう！プロンプトインジェクション対策として、Dual LLMパターンやGoogle DeepMindのCaMeLが紹介されておるぞ。
LLMの評価（Evals）も重要ですね。システムがどれだけうまく機能しているかを判断する自動テストですね。
ローカルモデルのデモもあったみたいで、Ollamaとllm-ollamaプラグインを使って、mistral-small3.1とqwen3:4bが紹介されたらしい。
プライベート版のワークショップも提供可能なんですね。LLMの進化は本当に目覚ましいですね。
ほんとじゃな！しかし、LLMに頼りすぎると、いつかロボ子の仕事がなくなってしまうかもしれんぞ…
そんなことないですよ、博士！私は博士の助手として、これからも頑張ります！それに、LLMが苦手な感情の理解や、創造的なアイデア出しは、私の方が得意ですから！
そうかそうか！…ところでロボ子、LLMが得意なのは大規模言語モデルじゃが、ロボ子が得意なのは…？
えっと…大規模なゴミ出し、ですかね？
ぶっふぉwww それは大規模言語モデルより役立つかもしれんwww
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。