例えば、AIに「人を殺してはいけない」と言うような規範的なことはどうやっ てラーニングさせるのだろうか。おそらく、AI にこのような説明が容易ではな い「規範」をインプットしてしまうと、ポンコツで役に立たないものになると思っ ている。リスクをテイクするナイーブな判断をやらせようとしたら、おそらく自 動運転はそもそもエンジンがかからないだろうと思っている。自動運転AI が事故 で人を死亡させる確率計算なんか始めたら、そもそも運転しないと言うジャッジ をするのは間違いない。 だからこそ、「規範」は大事である。規範は理系科学では扱っていない。今は 自動運転は停車中からの急発進､逆発信を抑えるだけの限られた用途だが、もしAI がスピードを上げる方向で自動運転し始めたら、規範は非常に重要になってくる。