自動運転車は「トロッコ問題」を解決できるのか

FUN君

進化するAIは、トロッコ問題を解決できるのでしょうか。
自動運転レベル4が解禁される中で、方向性を解説します。

トロッコ問題とは

• 暴走するトロッコ
• 軌道をそのまま進めば前方にいる５人の作業員が命を落とす。
• 分岐器を操作してトロッコを別の線路に誘導すれば、別の作業員１人の犠牲で済む。

トロッコ問題に潜む不自然な偶然

• 操作員が、居なければ、軌道をそのまま直進する
• 操作員が、常駐で監視し、操作を行うものなのか？
• 分岐器が故障していることは無いのか？
• 5人と1人の作業員、それぞれの立ち位置は、なぜ同じなのか？

ということで、トロッコ問題にも不自然な偶然が重なっているのです。

AIの観点と動作

AIルールには前提条件がある

以下の前提条件をふまえた回避ルールが予め設定されていると考えられるでしょう。

• 物より、歩行者を優先する
• 法令を遵守する
• 進行方向前方の障害物回避が最優先される
• ブラインドコーナーで対向車線へ回避するような挙動は取らない

AIルールによる行動パターン

1. 進行前方の障害物を検知する
2. この障害物を避けるために、自動的に回避行動を行う
3. 回避した方向で、別の障害物を検知する
4. この障害物を避けるために、自動的に回避行動を行う

という判断ロジックの繰り返しが妥当な流れでしょうか。
この流れに従えば、天秤に掛けるような判断シーンは存在せず、必ず優先順位に従った処理に過ぎません。

現時点、技術的な限界

AIや自動運転は、まだ万能ではありません。
ただし、高速道路など限定された環境下で、センサーやカメラを双方向で情報共有する仕組みがあれば、以下のようなリスクをも軽減できる可能性が高まります。

• 交差点で、信号無視の車両や人の回避
• 死角からの飛び出しの回避
• 荷台からの落下物の回避
• 追突してくる車両の回避

トロッコ問題は実際の道路事情とは異なる

• 実際には、二つの障害物検知が、同一タイミングで発生せず、必ず僅かな差が生じている
• 直進前方の人命回避が最優先
• 障害物と自車位置の距離にも差が生じている
• よって、トロッコ線路のように二者択一の判断が発生する可能性は限りなく低い

前提条件のルールに加えて、機械が判断したタイミングにより、優先度が決められ、その判断に従った挙動・動作になることが予想されます。

自動運転車は「トロッコ問題」を解決できるのか：まとめ

実際の道路上においては、特定条件満載のトロッコ問題は、発生しないと言えます。
実際の道路上、論理的に優先順位が決められ、それに従った自動運転の挙動になる。
結果、人命が失われたり、被害が拡大する結果になったとしても、AIロジックが招いた結果は、論理的に説明できるでしょう。

これらのAI判断が、人よりも早く正確に行った結果だとすれば、AIが招いた結果に対して罪に問う事は難しいという「まとめ」になります。