AIが人間を殺す日 車、医療、兵器に組み込まれる人工知能 (集英社新書)

AIが人間を殺す日 車、医療、兵器に組み込まれる人工知能 (集英社新書)の詳細

かなり過激なタイトルであるが、サブタイトルにあるように本書で取り上げているのはAI（人工知能）の用途として開発が活発化している自動車、医療、兵器である。これらはいずれもAIによる判断が人間の生死を左右するという点で重大な分野である。本書でキーワードとなるのは、「Human in the Loop」と「Human out of the Loop」。すなわち制御の輪の中に人間を含めるか、それとも人間を除外するかということで、自動運転車でいうと、Googleなどが目指しているような完全自動運転車は「Human out of the Loop」の思想に基づくものになる。今やAIの主流となっているディープラーニングではビッグデータに基づきAI自身がある法則性の下でアウトプット（判断や命令など）を出すが、その過程はブラックボックスでAIの開発者でさえなぜそういう判断になったのかを理解することができない。AIの判断が統計・確率に基づくものである限り、現実世界との微妙な誤差により誤った判断をする危険性があることを著者は指摘しており、自動車や医療分野など判断が人の生死に関わる分野では「Human out of the Loop」は危険であると論じている。一方、半自動運転車のように人間の関与も含める形の場合は、どこまで人間が運転に注意を払わなければならないか曖昧な点が問題で、実際に実用化されている半自動運転車の死傷事故の分析では「ドライバーの混乱」が事故の主な原因とされている。ということで、AIの判断にどこまで人間が関与するかは難しい問題であるが、急速な勢いでAIの開発と応用が進んでいる今こそ社会全体で考えていかなくてはならないことは間違いないであろう。本書では、主にAIの技術的な面に焦点を当てて論じているが、基本的にAIの判断過程がブラックボックスでしかもIoTで様々なAI搭載機器がネットにつながる時代では、悪意を持った個人やテロリスト、国などによる脅威もどんどん高まっているだろう。自動運転車搭載のAIに外部からの操作で誤作動をさせて事故を起こす、医療分野で治療を支援するAIのプログラムを操作して誤った治療方針を提示させ結果患者を死亡させるといったケースがまったくあり得ないことではない時代になりつつある。AI搭載の兵器がテロリストなどの手に渡った際の脅威は言うまでもない。こういったケースも想定した上で、AIの信頼性を更に高め、悪用を防ぐ方策を考えていくことが特に人間の生死に直結する分野への応用においては重要であろう。