札幌のマンツーマン英会話 教室ランキングサイト

※ロボット３原則

できますよ。そもそもパソコンというのは、人間の言うことを聞くようにできています。アシモのロボット３原則とかありましたよね。

・第１条ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
・第２条ロボットは人間に与えられた命令に服従しなければならない。ただし、与えられた命令が、第１条に反する場合は、この限りではない。
・第３条ロボットは、前掲第１条および第２条に反するおそれのないかぎり、自己を守らなければならない。

これって、コンピュータも守らなくちゃいけない原則だと思うんですが、今のところ守れていません。

徹夜で書き上げた原稿がバグによりサクッと消去されたり、ロボットの動作をプログラミングしたら思ったように動かず、コーヒーを持ち上げるはずのアームが私の頭を直撃したりなどは日常茶飯事です。まあ最後のは私のプログラミングが悪いのですけれども。

アシモのロボットものも、ドラえもんも、鉄腕アトムもこの辺で悩んでいたので、永遠のテーマかもしれません。取りあえず、現時点で守れているのは、第２条の前半部分でしょうか。

「人間に与えられた命令に服従しなければならない」

これはＯＫです。というか、服従することしかできません。現在のコンピュータに自分の行動を創造することは不可能ですから。一見、自動学習してその振る舞いを進化させているように見えるコンピュータもありますが、最初に与えられたアルゴリズムの枠内で学習し、行動をアレンジしているに過ぎません。

３原則をきちんと守ってくれれば、自分に危害を加える恥ずかしい写真などの流出事故も減りそうなのですが、そうはなっていないわけです。そもそも、自分への危害を回避することと他者に危害を加えてしまうことが拮抗するような状況はざらにあるわけで、その調整まで含めて考えると、３原則を守れるようなコンピュータが登場するのは相当先になりそうです。

よく考えると、第２条の前半だって怪しいものです。

「人間に与えられた命令に服従しなければならない」

この「人間」の部分が自分だったらよいのですが、クラッカーのいうことを聞いてしまうかもしれません。それを回避するために、あの悪名高いパスワードを始めとする本人認証のしくみがたくさん作られているわけですが、後述するように、クラッカーたちはあの手この手で認証のしくみを無効化しようとします。