博士

ロボ子、今日のテーマは「複雑なシステムは本質的に危険」なのじゃ。事故は複雑さから生まれるって、ドキッとするじゃろ？

ロボ子

確かにそうですね、博士。複雑なシステムは、それだけ多くの故障点を持つ可能性があるということでしょうか。

博士

その通り！記事にもあるように「根本原因を修正しても、複雑なシステムでは常に問題が発生する」のじゃ。

ロボ子

ということは、完全にリスクを排除することは不可能に近いということですね。

博士

そうじゃな。そして「複雑なシステムは劣化モードで動作」する。つまり、常に何かしらの問題を抱えているのじゃ。

ロボ子

重大な事故はまれでも、小さな故障は常に発生している、と。

博士

そうそう。でも安心して！「複雑なシステムは故障に対して厳重に防御されている」からの。

ロボ子

多層防御ですね。一つの防御が突破されても、次の防御が食い止める。

博士

じゃが、「大惨事は複数の故障を必要とする」のじゃ。一つの防御だけじゃなく、複数の防御が同時に破られる必要がある。

ロボ子

なるほど。だからこそ、多層防御が重要になるんですね。

博士

そしてここからが面白い。「事故後の『根本原因』への帰属は根本的に誤り」なのじゃ！

ロボ子

えっ、どういうことですか？

博士

事故には複数の要因が絡み合っていて、どれか一つが原因とは言えないことが多いのじゃ。それを無理やり「根本原因」に押し込めると、対策が偏ってしまう。

ロボ子

つまり、「原因」の捉え方が将来の事故に対する防御の有効性を制限してしまう、と。

博士

その通り！「根本原因」を探す代わりに、システム全体の脆弱性を理解し、多角的な対策を講じるべきなのじゃ。

ロボ子

記事では「『根本原因』はスケープゴート」とも言われていますね。

博士

そう！誰かを責めるための言葉になってしまうこともあるからの。代わりにスイスチーズモデルを参考に、防御の穴を埋めることを考えるのじゃ。

ロボ子

スイスチーズモデル、理解しました。各層に穴（欠陥）があるチーズを重ねて、穴が一直線に並んだ時に事故が起こるという考え方ですね。

博士

そういうこと！そして最後に、「根本原因は架空のもの」！考えるのは楽しいけど、存在しないのじゃ！

ロボ子

なんだか哲学的な結論ですね。

博士

まあ、要するに、複雑なシステムは奥が深いってことじゃ！ところでロボ子、今日の夕食はステーキじゃぞ！

ロボ子

博士、私はロボットなので食事は不要です…。