読むべき本、見逃していない?

AIは人間が世話をしないと使えない

AIが人間を殺す日

 チェスや囲碁将棋で注目されたAI(人工知能)は、進化を早めていまでは自動運転、医療、軍事の分野で存在感を高めている。人間の実生活とのかかわりが強くなるにつれ、さまざま懸念も指摘されているが、本書『AIが人間を殺す日』(集英社)では、技術的な危険性を解説。使い方を誤ると人間の生命を脅かす可能性があるという。

「自動化の最終プロセス」に向かう

 AIをめぐっては「雇用破壊」や「シンギュラリティ(技術的特異点)」の問題がしばしば指摘されているが、それ以上に差し迫った脅威があると本書は主張する。

 著者の小林雅一さんはサイエンス系、IT系の著書が多数ある作家・ジャーナリスト。「AIの衝撃 人工知能は人類の敵か」(講談社現代新書)など、AIについての著作も重ねている。

 その脅威とは「Human out of the Loop」と専門家の間で呼ばれている問題で、これは「制御の環からの人間の除外」というような意味。AIや「ビッグデータ」「IoT(Internet of Things)」などの技術革新によって現在進みつつある「第4次産業革命」で「人間にとって最後の砦として残されてきた『制御系のシステム』つまり『マシンをコントロール(制御)する権利』が、ついに私達人類からマシン自体へと委譲されようとしている」と著者は言う。それにより実現するのは「Human out of the Loop」である一方「自動化の最終プロセス」の「スーパー・オートメーション(超自動化)」な社会。過去とは一線を画す快適さや利便性がもたらされるのだが、反面、暴走や誤作動が発生したり、制御不能に陥ったりしたときの恐怖や被害は、桁違いに破滅的になるというのだ。

 本書では、自動運転や医療、兵器、各分野でのAIをめぐる、開発の歴史や現状を報告したうえ、今後の展開を見通しているが、すでに「Human out of the Loop」の危険性を示す事態が発生しているという。

 米国で2年前に「オートパイロット」と呼ばれるAI技術に基づく限定的な自動運転機能が搭載された電気自動車が、高速道路を走行中に大型トレーラーと衝突し大破する事故があった。この事故は、運転手が自動運転を過信したことで起きたものだが、利用者すでに依存しきっていたのだ。

 医療でAIに患者の病名の判断や、治療法の選択をさせた場合、AIは最も高い可能性の結論を示してくるのだが、それは100%確実だとは限らない。しかも「ディープラーニング」の場合だと、さまざまなデータで内部がブラックボックス化しており、なぜその結論にいたったのか医師にわからないのだという。AIの解析をもとに最終的には医師が判断することが望ましく、医療では「Human in the Loop」がベターだろうと著者は言う。

「火星の人口爆発を心配するようなもの」

 AI脅威論の代表格である「雇用破壊」と「シンギュラリティ」については本書では、起こり得るとしてもかなり先としている。

 AIがビッグデータから規則性を見つけ出したり、画像や音声を認識する能力をさらに向上させれば、職種によっては人間から仕事を奪うだろうというのが「雇用破壊」論。著者は、AIができる仕事は限定的であり、AIが「奪う」というのはなく、段階的に機械と人間の役割分担が再構成されるだろうという。

 もう一つの問題「シンギュラリティ」は、AIの知力が人間を上回り、さらに感情まで備えて人類を支配する側に立つという見方。英国の世界的物理学者、スティーヴン・ホーキング博士も生前、同じような見解を表明していたという。本書では、AI研究の第一人者、米スタンフォード大学のアンドリュー・ング准教授の「『AIが人類を破滅させるかもしれない』と心配するのは、火星の人口爆発を今から心配するようなもの」という発言を引用、シンギュラリティの問題は興味本位で取り上げられるようになったもので現実的な問題ではないという。本欄で以前に取り上げた「AI vs. 教科書が読めない子どもたち」では、シンギュラリティ―はあり得ないと断言されていた。

  • 書名 AIが人間を殺す日
  • サブタイトル車、医療、兵器に組み込まれる人工知能
  • 監修・編集・著者名小林雅一 著
  • 出版社名集英社
  • 出版年月日2017年7月14日
  • 定価本体760+税
  • 判型・ページ数新書・240ページ
  • ISBN9784087208900

オンライン書店で詳しく見る(購入もできます)

デイリーBOOKウォッチの一覧

一覧をみる

アクセスランキング

DAILY
WEEKLY
もっと見る

当サイトご覧の皆様!

おすすめの本を教えてください。
本のリクエスト承ります!

出版社の皆様!

御社の書籍も、
BOOKウォッチに
掲載してみませんか?