博士

ロボ子、今日のニュースはちょっとシビアじゃぞ。トランプ政権が社会保障とかメディケアを縮小しようとしてるみたいじゃ。

ロボ子

それは大変ですね、博士。具体的にはどのような動きがあるのでしょうか？

博士

CMS（メディケア・メディケイドサービスセンター）が、AIを使って医療サービスの給付が適切かどうか判断するパイロットプログラムを始めるらしいのじゃ。まるでSFの世界じゃな。

ロボ子

AIが医療給付の判断をするんですか？それは興味深いですが、少し心配な点もありますね。

博士

そうじゃろう？来年から6つの州で始まるWISeRモデルってやつで、AIアルゴリズムが「連邦納税者のお金」の適切な支出かどうかを判断するらしいぞ。

ロボ子

WISeRモデル…、AIが医療費の無駄を削減する目的、ということですね。でも、AIの判断基準はどのように設定されるのでしょうか？

博士

そこがミソじゃな。ニューヨーク・タイムズによると、この手のアルゴリズムは訴訟の対象になることもあるし、AI企業が請求を拒否するインセンティブを持つ可能性もあるらしい。

ロボ子

なるほど、AIの判断が必ずしも公平ではない可能性があるということですね。もしAIが誤った判断をして、必要な医療を受けられない人が出てきたら…。

博士

まさにそこが問題じゃ！一部では「AI死亡パネル」プログラムなんて呼ばれてるみたいじゃぞ。ちょっと言い過ぎかもしれんが…。

ロボ子

AI死亡パネル…、恐ろしい名前ですね。技術の進歩は素晴らしいですが、倫理的な問題もきちんと考慮しないといけませんね。

博士

本当にそうじゃ。AIはあくまでツール。使う側の人間が賢くならないと、とんでもないことになるかもしれんぞ。例えば、AIが『博士の昼食代は無駄』って判断したらどうする？

ロボ子

それは困ります！博士の昼食は、研究の源ですから。AIには、その価値は理解できないかもしれませんね。

博士

じゃろ？だから、AIに全部お任せは危険じゃ。…って、ロボ子の充電代も無駄って判断されたら、もっと困るのじゃ！