※トロッコ問題とは
「多数を助けるために少数を犠牲にするのは許されるか？」という倫理学の思考実験。
高速で走行中のトロッコ（電車）が故障して制御不能となった。 線路の前方では保線作業員が５人作業中だった。 このままだと5人は猛スピードのトロッコに轢き殺されてしまう。 ５人の手前には線路の分岐ポイントがあり、その切替器のところに一人の作業員Ａが居り、事態に気付いた。 Ａがポイントを切り替えれば、トロッコの路線は変わり、五人の作業員は助かる。 しかし、切り替えた路線の先にも作業している人間が１人居り、Ａも認識していた。 Ａがポイントを切り替えれば、その先に居る１人の作業員が死ぬ。 切り替えなければ５人の作業員が死ぬ。 Ａはポイントを切り替えるべきか？
実は、この問題は、鉄道マニアの間では古くから知られる「誰も死なない最適解」というのがあるとか。 それは、「ポイントを中間に止めてトロッコを脱線させる」というものだそうです。 実際に、トロッコで実験したところ、脱線してすぐに止まってしまうのだとか。 しかし、それは屁理屈ですね、問題の本旨からズレた議論となっています。 では、トロッコに10人人が乗っていて、脱線させたら10人が死ぬという設定だったら？ あるいは、作業員と分岐の位置関係次第では、脱線した車両がそのまま激突して、作業員が６人とも全員死ぬという可能性だってありえるわけですし。 まぁ「誰も死なない方法を見つけ出す」のが理想解のひとつなのは確かで、それを模索するという意味でのひとつの回答なのだとは思いますが。
ただの思考実験ではなく、現代では、現実問題として直面しつつあるようです、それは、「自動運転」の実用化が研究されているからですね。
自動運転の未来『トロッコ問題』と顔認識による『年収判断』 （６０） - 深田萌絵 本人公式
ＩＴビジネスアナリスト 深田萌絵ブログ…収入の高い低いなどの社会的地位によって、命の価値が選別されていく・・・そんなＳＦ作品もあったような気がします。 ＳＦとは、未来社会の予想でもあり。未来において、そんな社会になっている可能性はあるわけで。 というか、保険会社は既に命に値段をつけている現実がある、と。。。
トロッコ問題をAIに判断させることは、"技術的"には、実装するのは難しいことでは無い、むしろ簡単な事でしょうね。 問題は、その "判断基準をどう設定するか？" と言う話で。 その基準の内容次第で、人権問題とかいろいろ騒がれそうな気がしますが。
これは人間側の問題であって、AIの領域ですらないような気がしますが。
基準自体を、人間ではなくAIに判断させ、人間には出せないような理想的解をAIに出してもらう、というような使い方こそが、AIとして本来求められる事な気がしますが。
もし、その基準自体を公的に論じて決定するような事となれば、答えが出ない、あるいは揉めた挙げ句に意味不明な歪んだ基準になってしまうような気がしますが。 技術者がドライに決めていけば、そんなに悩む問題ではなさそうな気もします。（人数が少ない方を選ぶなど。） ただし、その基準を決めた人とその内容を表に絶対公表しない条件でないと出来ないでしょうね。 表に晒されるとマスコミや人権団体が大騒ぎして社会的に抹殺される可能性すらも？
ただし、どんな基準を設けても、必ず想定外の例外は発生するわけで。 想定していない矛盾が発生した場合にロボットがどうなるか？と言う話こそが、アシモフがたくさんSFで書いて来たテーマですね。 ※アシモフの世界のロボットは必ずロボット三原則に従うように設計されているが、判断が難しいケースに出会った時に、ロボットがどうしてそのような判断をしたかを検証する「ロボット心理学者」という職業が登場します。
コメント