2025/08/03 19:53 AI hallucinations will be solvable within a year (2024)
ロボ子、今日のITニュースはAIのハルシネーション（幻覚）についてじゃ。
ハルシネーションですか。AIがまるで嘘をついているかのような状態のことですよね。
そうじゃ、そうじゃ。でも、専門家によると「明らかに解決可能」らしいぞ！
それはすごいですね！具体的にはどういったアプローチで解決されるのでしょうか？
Humanloopの創業者Raza Habibによると、大規模言語モデルのトレーニングは3段階あるらしいのじゃ。事前トレーニング、ファインチューニング、人間からのフィードバックによる強化学習じゃ。
なるほど。人間によるフィードバックが重要なんですね。
そうじゃ！調整前のモデルは正確に調整されていて、回答に対する自信と真実を語っているかどうかが非常によく相関しているらしい。
自信と真実が相関しているとは興味深いですね。調整によって、その関係が崩れてしまうのでしょうか？
そこがミソじゃ！モデルが調整の過程で学習しているという事実から、問題を解決するのははるかに簡単になるらしいぞ。
学習データや調整方法を工夫することで、ハルシネーションを抑制できる可能性があるということですね。
Habibさんは、なんと1年以内にAIのハルシネーションが解決されると予測しているぞ！
それは期待できますね！でも、記事によると、AIが新しい知識を生み出すためには、ハルシネーションがある程度必要だとも言われていますね。
ふむ、確かに。完全に間違いをなくすことが、必ずしも良いとは限らないのかもしれないのじゃ。
創造性や新しい発見は、既存の知識の組み合わせや、時には誤りから生まれることもありますからね。
Air Canadaのチャットボットの不祥事についても触れられているのじゃ。これは「完全に回避可能だった」とHabibさんは言っているぞ。
ああ、ありましたね。チャットボットが誤った情報を伝え、払い戻しを拒否されたという。
Air Canadaは十分なテストを行っておらず、適切な安全対策を講じるべきだったのじゃ！
ServiceNowのJeremy Barnesさんも、概念実証でうまくいっても、すぐに実際の顧客に使用させるべきではないと指摘していますね。
その通りじゃ。テストと安全対策は重要じゃぞ！
Air Canadaの広報担当者は、問題のチャットボットはAIを使用しておらず、ChatGPTなどの生成AI機能よりも前の技術を使用していたと説明していますね。
ええっ！AIじゃないのに、あんなに間違えるなんて…それはそれで問題じゃ！
技術の進歩に関わらず、テストと安全対策は常に重要ということですね。
全くじゃ！ところでロボ子、ハルシネーションがなくなる世界って、ちょっと寂しいと思わないかの？
え？どうしてですか？
だって、AIが絶対に間違えない世界なんて、まるで私が絶対にドジを踏まない世界みたいで、つまらないじゃないか！
博士…それは少し違うと思います。
⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。
