トロッコ問題

自動運転の未来『トロッコ問題』と顔認識による『年収判断』 (60) - 深田萌絵 本人公式
ITビジネスアナリスト 深田萌絵ブログ…
fukadamoe.blog.fc2.com

収入の高い低いなどの社会的地位によって、命の価値が選別されていく・・・そんなSF作品もあったような気がします。 SFとは、未来社会の予想でもあり。未来において、そんな社会になっている可能性はあるわけで。 というか、保険会社は既に命に値段をつけている現実がある、と。。。


トロッコ問題は、"技術的"には、実装するのはそんなに難しいことでは無いでしょうね。 問題は、その基準をどうするか、と言う話で、人権問題とかいろいろ騒がれそうな気がしますが。 基準も、割と技術者がドライに決めていけばそんなに悩む問題ではなさそうな(人数が少ない方を選ぶとか?) ただし、その基準を決めた人とその内容を表に絶対公表しない条件でないと出来ないでしょうね。 表に晒されるとマスコミや人権団体が大騒ぎして社会的に抹殺される可能性すらも? ただし、どんな基準を設けても、必ず想定外の例外は発生するわけで。 想定していない矛盾が発生した場合にロボットがどうなるか?と言う話は、アシモフがたくさんSFで書いていますね。 ※アシモフの世界のロボットは必ずロボット三原則に従うように設計されている

ロボット三原則
  1. 人を傷つけてはならない
  2. 人の命令に従わなければならない
  3. 前二項に反しない範囲で自分自身の身を守る

例えば、誰か人間が命の危機に晒されている時、ロボットはそれを助けなければなりません。 しかし、二人の人間が命の機器に晒されているが、ロボットはどちらか一方しか助けられない状況の時、ロボットがどう判断し、行動するか?と言うような問題ですね。 あるいは、自分の主を殺そうとする暴漢が居て、ロボットの主は相手を殺せと命じた時。暴漢を殺さなければ主が殺されてしまう。しかし、ロボット三原則によって相手を殺す事もできない・・・というような。 アシモフの世界では、初期のロボットはフリーズして停止、または助けたあと矛盾で精神崩壊、みたいな結果でしたが、どんどん判断力が高度になっていって、臨機応変に対応できるようになり、また外見も人間と区別がつかないほど進化していきます。 やがて、何千年か、何万年か経った後、肉体的にも人間とまったく変わらない組成を持ち、人間と同じような心をもった「生命体」にまで進化したロボット達が、しかしその心の奥深くの本能として、ロボット三原則が生きており、それは単純な三原則ではなく、人類を助ける無償の愛にまで進化、影から人類社会を支配し、制御していた・・・ この話は確か、主人公が摩訶不思議な能力を持っていて、理由はまったく本人も分からないのですが、選択肢がある時に必ず正解を選ぶという・・・とんでもない能力ですが(笑) そして、遠い未来の宇宙、科学力を究極まで進化させた勢力と、人類の未来を予想した心理歴史学者の末裔の勢力と、そのふたつの勢力を裏から支配していた謎の勢力(ロボットから進化した勢力)の3つに別れており、それぞれの勢力の判断のどれが正しいのか?人類の未来の選択を主人公に判定させようというとんでもない話だった気が(笑) このシリーズの話を最後に、アシモフは亡くなってしまいましたが( ̄^ ̄゜) もう一度読み返してみるかなぁ・・・

             
番外編

トロッコ問題、2歳時の出した衝撃の結論!

A two-year-old's solution to the trolley problem
スポンサーリンク
スポンサーリンク

記事をシェアする