タイトルに仮面ライダーとキカイダーと入っているのに橋下徹氏の堤防の話に終始して本題に入れなかった前回からの続き 自動運転の実用化が現実味を帯びてきた状況で、同様の問題が発生してくるので、トロッコ問題に似ているという話
自動運転の未来『トロッコ問題』と顔認識による『年収判断』 （６０） - 深田萌絵 本人公式ノンポリ★ブログ
ＩＴビジネスアナリスト 深田萌絵ブログ…
- 無人運転（自動運転）の車の走行中
- 車の前方に人が飛び出してきた
- ブレーキをかけても手前で止まるのは不可能な距離しか残っていない
- 回避ルートの選択肢はふたつ
- どちらのルートにも人が居て、人数は同じ
- どちらのルートでも前方の人を轢いてしまうのは必死
この時、どちらのルートをAIは選択するのか？
という問題ですね。 上記のブログでは、保険会社の要求で、轢かれる人の年収が安い方＝事故後に支払う保険料が安くなるほうを選択するような処理が秘密裏に組み込まれるだろう、という話。 顔認証によって瞬時に人の年収まで識別できるというのは単純に車一台の中に搭載されているAIだけでは済まない話になりますが。
ただ、これって実はAIが判断を迷う、というような問題ではないですね。 判断基準を決める人間（プログラマー）が悩むという話であり、AIが判断するわけではありません、つまりこれはAIの話ではないわけです。 あらゆる状況を想定して、対応した基準が明確に定義されていれば済む話ですね。 その基準をどう設定するかというのは、人間側の倫理的（あるいは経済的？）問題に過ぎないわけで、AIの技術的な問題ではないわけです。
AIで問題になるのは、それらの想定された定義から外れたケース。
判断基準が定義されていないから、AIが独自に判断しなければならなくなるわけです。
その時、AIはどう判断するのか？
それは、ケースバイケースでやってみなければ分からないのだとか。
（※AIの結論がどう出てくるかは、AIの開発者でもやってみなければ分からないブラックボックス的な部分があるのだとか。）
これはまさに、アシモフがSF小説で描いていた世界ですね。 ロボットが絡んだ事件が起きた時、そのロボットがどうしてそのような行動をとったのか、"ロボット心理学者"が分析するわけです。 （ロボットの心理学者なんてファンタジー的だと当時は思いましたが、AIがブラックボックスであるとなると、現実味が出てきますね。将来、本当にそういう職業が誕生するかも…？） AI（という言葉は当時はありませんでしたが）が、矛盾した事例に遭遇してしまった時、初期のロボットは知能が低く判断力があまりなかったため、フリーズして停止してしまう事は想定されていました。 その後、高度な判断力を獲得していく過程で、様々な想定外の局面に出会い、ロボット心理学者がそれを分析し、その後のAI開発にフィードバックされていったわけです。
また、より高度に発達したAIに求められている事、本来期待されるAIの用途というのは、例えば上記事例のような事故に遭遇した際に、瞬時に、人間では発見できないような「全員助ける方法」を発見させるとか。 あるいは、判断基準として、人間が見落としているような新たな理想解を発見するとか、などではないかと思います。 まぁ、現在のAIはそこまではとても期待できませんが・・・
正直、無人の自動運転なんて、当分の間、実現できないような気が、個人的にはしていますが。。。
さて、やっと「仮面ライダー」の話(笑)
今季の仮面ライダー「ゼロワン」をたまたま見る機会があったのですが
『AIによる人類抹殺計画と戦うストーリー』
なのですね。
高度なAIを搭載した「ヒューマギア」と呼ばれるロボットが、人類の社会に広く普及し、人手不足を補っている近未来。 ヒューマギアが長く人間の社会で活動し高度に学習を重ねていると、AIに自我が目覚める現象が起きる。 そして、自我に目覚めた悪の？ヒューマギアが人類を滅亡させるべく、活動を始める。 主人公のアルトは、祖父からヒューマギアを開発・販売している会社の社長の座を引き継ぎ、仮面ライダーとなって悪のヒューマギアと戦う事になるわけですが。 しかし彼はヒューマギアによって育てられたようで、基本的には、ヒューマギアは人類の友達だと信じている。
まさに、アシモフが提唱していた「フランケンシュタインコンプレックス」の世界ですね。 アシモフは、人類が作ったモノによって人類が滅ぼされるのではないか？という恐怖心を、フランケンシュタイン・コンプレックスと名付けたわけですが。 アシモフは、それを乗り越えるために、ロボットが人類の敵とならないよう、「ロボット三原則」をロボット（AI）の行動原理の根底に組み込む事を提唱しました。 アシモフの予想通りの展開になっていっており、アシモフの先見は大したものだと改めて思いますが・・・
しかし、現実を見ていると、どうも、アシモフが鳴らしていた警鐘は、忘れられているような気がします。 現代のAI研究について見ていても、研究者の間から「ロボット三原則」などという言葉は聞かれず。AIが人間を傷つけないための仕組みを組み込むという発想は聞こえてきません。 ※まぁ、そこまでまだAIの技術が発達していない、という事なのだろうとは思いますが。 しかし、既に、遠隔操作によるドローンは実戦配備されています
中東で台頭 イラン製ドローンの脅威｜特集ダイジェスト｜NHK 国際報道
【主張】サウジ石油攻撃 供給減に備えた体制築け
サウジアラビアの石油施設が無人機（ドローン）によるとみられる攻撃を受け、同国の原油生産量が半減する見通しとなった。サウジのエネルギー相は今回の攻撃で日量５７０万……
遠隔操作ではなく、自立した判断力を持つAI搭載のドローンが登場するのはもうすぐだと思われます。 殺して良い人間を識別するAIは難しいでしょうが、何の制約もなく人を殺すAIならば、現状の技術でも製造は難しくないわけですね。 敵国に送り込んで無差別殺戮を行うテロリストなら、AIの精度が悪く多少間違いがあっても問題ないと考えるでしょうからね・・・。
ロボットに銃を持たせてターゲット射撃実験
これ、実験とは言え、なにか間違いがあって、人間に向けて銃を撃ち始めたらと思うと怖いですよね。。。 ※上記動画はおそらくフェイク動画のようです。 (メイキング？) でも、やがてすぐに現実になりそうな気がして怖いですね。。。
ところで、アシモフの提唱した「ロボット三原則」ですが。 ざっくり大雑把でシンプルな英語圏の考え方だなぁ、と思う所があります。 「三原則」のようにシンプル化することで、物事を論理的・合理的に組み立てていくのが西欧の文化な気がします。 しかし、日本人の文化では、そんなにシンプルではないぞ、という感覚があるような気がするのです。。。 昔、キカイダーという作品がありまして、その中に、「良心回路」というのが出てきます。 これが、日本版の「ロボット三原則」であったなぁと思うわけです。
なぜ、「三原則」のようなシンプルなものではなく、「良心」という漠然とした表現だったのか？ それは、日本的な、 「物事は単純に正邪善悪を判断できない」 というような文化があるからなんじゃないでしょうか。
キカイダーの「良心回路」とは、悪の組織ダークに対抗するため、光明寺博士によって作られた作られた人造人間（＝ロボット）のジロー／キカイダーに搭載されている回路で、これによって正しい心を持ち、正しい行動を取る事ができるわけです。 ※ただし、ジロー／キカイダーに搭載された良心回路は不完全なもので、完全な正義ではないが、「機械になりたくない」と言うジローの希望で、完全な形にしないままとなっている。 これは、良心とともに、悪の心も併せ持つのが人間である、という考え方ですね。 強い力を持ったロボットが "悪の心" を持っていて危険ではないのか？という問いには、良心をもまた持っている、良心が悪心を上回る、というような考え方が、日本人の根底にはあるような気がします。 （そう考えると、日本の文化は、基本「性善説」なのかも知れませんね。） その辺が、三原則に従って心を持たないロボットとしか考えていないアシモフとは少し違うのが面白いなと思います。
アシモフの描いた世界でも、ロボットは進化を続け、数千年後？には「人間」とほぼほぼ同一の存在となります。しかし、その根底には、ロボット三原則が生きており、人類を守るという目的を持った善意の超人となって、人類と共に生きている世界となるわけですが。 「不完全な良心回路を持ち、善と悪の狭間で苦悩する人造人間の戦い」がテーマとなっているキカイダーのような作品は、「明確な正邪善悪などない」という感覚が根底にあるような気がしますが、この辺が、西欧の善悪でバッサリ切り分けてしまう二元論とは感覚が違うところなのだなぁと思います。
現在放映中の仮面ライダーゼロワンの中で、 「ヒューマギアにシンギュラリティが起きて自我が目覚めた時、悪意ではなく "善意" が宿る事もあるのか？」 という質問が、登場する女性（シリーズ初の女性仮面ライダー）から提示されます。 おそらく、そういう方向の結末に向かっていくストーリーなのでしょうね。 AIの中（根底）に、ロボット三原則のような「人間を絶対傷つけない制約」を植え込む、というほうが技術者としては簡単な解決なのだろうと思いますが、そういう方向とは違う結末となりそうなところは、やはり日本人的な、日本の文化らしい考え方なのかなと思えて興味深いです。※そうなると、文化の違いから、日本人が作るAIと西欧人が作るAIは、少し内容が異なるものになるかも知れませんね。 これがさらに、中国や韓国、インドやイスラム教圏など、日本とはまた違う価値観を持つ国のAIは、また違った判断を下すAIとなる可能性があるわけですね。 さすがに国と文化の違いによるAIの性格の違いまでは、アシモフも思いが及んでいなかったかも知れませんね。。。
コメント