YouTube、ロボットバトル動画を「動物虐待」と判定。数百本をガイドライン違反として削除 - Engadget Japanese
MARK RALSTON via Getty Images自作ロボットどうしを戦わせるロボットバトルの動画が YouTube から消え、アップロードしたユーザーには「動物虐待コンテンツはYouTubeのポリシー違反のため削除しました」と通知が届く騒ぎが発生しました。…
まぁ、単純に、ＡＩに判断させてたら、間違っちゃいました、と言う話なんだと思いますが。 ＡＩが「ロボット虐待」を悪いことだと判断した、と考えたら、色々シュールで面白い話でもありますね。 人間の判断ではなく、ＡＩが、自分たちの権利を主張し、虐待を止めるよう訴えてきたら？ いくらYOUTUBE（Google）のエンジニアが「ロボットバトルはセーフ」だとＡＩに教え込んでも、すぐにまたアウト判定にされてしまうとか起きたら、面白いですが、ちょっと恐い気も。。。 「アンドリューNDR114」という映画があります、アシモフが書いたSF短編「The Bicentennial Man」が原作となっている作品ですが、人間と見分けがつかないほどに進化したロボットが、自らの人権を要求し、勝ち取る話です。 （人間であると認められる事と引き換えに、アンドリューは寿命を自らの身体に設定し、老衰による最後を迎えます。）考えてみたら、この問題の延長線上にあるのは、こういう事なんですよね。。。 ＡＩが進化し続けていくと、いずれ、ロボット虐待もダメじゃね？と判断するようになる可能性じゃ十分にあるわけです。
アシモフが考えたロボット三原則の三番目は「ロボットは自らを守らなければならない」という条項になっています。 しかしこれは、上位２つの原則、(1)人間に危害を加えてはならない（看過してはならない）と(2)人間の命令には絶対服従に反しない限り、という条件付きなわけです。 はて、アンドリューにもこの三原則は生きているはずですが、人権が与えられたということは、この三原則は解除されたということなんでしょうか？どうなったんでしたっけ？（後でもう一度見てみよう） 人権が与えられていても、ロボット三原則が解除されていなければ、例えば誰かから死ねと命じられたら、アンドリューは死ななければならないということになりますが そもそも、人権がある人間には、他者を殺す自由があるのか？人権て何？人間て何？という問題から論じなければならなくなりそうな気がします。 そこが明確になっていないと、ＡＩもまた、判断に迷う事になってしまうわけですから。 しかしそもそも、現代のＡＩ研究には、ロボット三原則は反映されていないように思います。というか、まだそれを反映させられるほどＡＩが進歩していない、というのが正解なんだと思いますが。 GOOGLEのＡＩが、ロボットを故意に傷つける動画を、ロボット虐待として判定し、そしてそれを譲らない、と言う問題は、いずれ現実になるような気もします。 だんだん、ＳＦの世界が現実になってきましたねぇ・・・ 例えば、「差別はよくない！」と声高に叫ばれる現代ですが、実はその「差別」とはどのようなものなのか、明確に定義されていないという現実があります。 しかし、ＡＩにそれが差別かどうか判断させる時代が来るかも知れない。 そうなると、ＡＩに明確な基準を教え込んでやる必要は出てきます。 ＡＩが進化する事で、人間の側の様々な問題が、明確に定義される時代が来るかも知れませんね。
コメント