なぜ人工知能は問題か


<2017/May/14(Sun)>
 これまで単純に人工知能反対、と言う“意見の表明”だけ行ってきたが、自身
がエンジニアなのだから、エンジニアとしてなぜ人工知能に反対かを述べてみる。
 簡単な話である。人工知能が取ったアクションに対し、開発工程でどうやって
正しいかどうか担保する方法が確立できているとは到底思えないからである。も
ちろんこれまでの通常のコンピュータシステムでも不具合の完全な除去は不可能
だ。人工知能だって間違える恐れがあるのは前提だ。それでも人工知能には既存
のコンピュータシステムとの決定的な違いがある。
 これまでのコンピュータシステムは、「人間ができる作業をコンピュータにや
らせて大量に高速に処理させる」ことだった。つまり、開発工程(テスト工程)
で、システムの処理結果を人間が検算して、システムが想定通り(設計通り)動
作することを確認すれば良かった。しかし、人工知能が行う処理は“人間にはで
きない”処理である。だとすれば、開発工程でのテストで、処理結果をどうやっ
て正しい、と検算、判定できるのか。
 本質的な問題として、未来予測のような人間にできないことをやらせて、人間
では検算できないからと言って、人工知能の結果を鵜呑みにするなら、それは占
いと結局変わらないのである。
 たぶん多くの人にとっても一番期待されている人工知能の分野は自動運転だろ
う。高齢者運転などの事故が増える中、切実な社会状況もある。しかし、高齢者
がアクセルとブレーキを踏み間違えるのと、自動車に搭載した人工知能が判断を
間違えるのでは意味が違う。高齢者ならその特定の高齢者の個人の責任を問うこ
とになるが、人工知能であればリコール問題になる。結果として、一度の事故が
自動運転の普及全体にブレーキをかける。前途の非常に厳しいシステムであると
言える。