AI化、ロボット化は「人間のコントロールとの共存」に大きな問題がある

1994年4月26日、名古屋空港に着陸しようとした中華航空機が事故を起こし、乗員乗客274名のうち261名が死亡する、航空機事故史上でも非常に大きな事故になった。まだ記憶している方も多いだろう。この事故の原因を追求すると、「自動操縦装置の誤動作」「それを修正しようとするパイロットの操縦ミス」など、様々な要因が重なったもの、とされた。ここで、大きな問題となったのが「自動操縦装置」と「人間」との関係だ。この頃になると、もう飛行機の自動操縦装置はかなり高度なものになっており、今では離陸や着陸、水平飛行のタイミングに至るまで、自動操縦装置のお世話にならないことはない、といいっていいくらいの「自動化」が進んでいた。言い換えれば、現代の航空機とは「人工知能搭載の空飛ぶロボット」と言っても良いほどのものである。人間はそのロボットがちゃんと動いているかどうか監視する、という役目になっている、と言っても、あながち言い過ぎではないだろう。

この事故のときに大きな問題となったのが「自動操縦装置」と「人間」の意見が分かれた場合、どちらを優先するか?ということだ。あるいは「この両者のコンフリクト(競合)をいかに調整するか」ということだった。自動操縦装置は「下に行け」、というが、人間は「上に行け」となり、結果としてこの両者の言い分が適切に調整されないまま、大事故になった。

人間の判断は間違えることがある。機械も壊れることがあるし、間違えることがある。なぜなら、機械も人間が作ったものだからだ。だから、完全な自動化で、人間の判断が入る余地がないものは、大きなクライシスにつながったときに、それを防ぎようがなくなる。

ごく最近のあるとき、某航空工学の権威の先生にこのことをお聞きしたのだが「そういうことをまともに研究している研究者は現在はいない」ということだった。

自動運転車でも、「目的地にできるだけ早く到着する」ことと「交通法規を守ること」はするだろうが、不意に横から飛び出してくるスケボーの少年の衝突を防ぐことはできないだろう。それは、人間でさえできない。事故が起きたとき、その処理をどうするか、ということも自動化メニューに入れておかなければならない。なにかがクルマに一定以上の力でぶつかったときはクルマが止まり、その場を保存し、警察に通報し、警察が来るまでそこから動かない、ということも「自動運転車」はしなければならなくなることだろう。

航空機でなくても、これからは、自動運転車などが当たり前になる、と言われており、自動車を運転することが非合法になる、などとも言われている。つまり、自動運転は絶対に限りなく近い安全に決まっているので、人間が口を出すな、ということだ。おそらく、本来であれば、「AI,ロボットの領域」と「人間の領域」をしっかりとしたポリシーで分け「住み分け」をしっかりとしておかなければ、AIやロボットは人間の道具、あるいは友人として、まともに動いてはくれないだろう。

また、現在北朝鮮の攻撃などで問題となっている「サイバー攻撃」「EMP攻撃」を受けたときはどうするのか?万事窮すで終わって良いのか?なども、考える必要があるだろう。今や自動車の運転、インジェクションなどもコンピュータで行う時代である。これらの対策は十分過ぎるほどとっていたとしても、プログラムにはバグも例外も考えておく必要がある。そして「例外」とは「予想しなかったこと」である。予想できないものは、時間をかけた経験で知識としてためて行くほかはない。これは機械であろうが人間であろうが同じことだ。

ニュースによれば、JRが企業連合でAI化、ロボット化の推進をするというが、いまだに「AI,ロボットと人間の住み分け」について、しっかりした研究成果を期待したいものだ。夢を語るのは誰でもできる。夢を現実にするには、最高の哲学や知性が必要になる。