AI(人工知能)の進化による人間支配は当初懸念されたのとは別の格好で既に始まっているという。本書『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』(インターシフト)は、米国で起きている現実の例を数多く紹介、だれもがその被害に遭う可能性があることを示して警戒を呼びかける。
ワシントンDCでは10年ほど前から、市をあげて学力水準の低い学校の状況改善を目指して取り組みを始めていた。そのために起用された教育長は、業績の低い教師の一掃を計画。IMPACTと呼ばれる教師評価ツールを考案し、2009～10年の学年度末に評価スコアが下位2％に属した教師を全員解雇。翌年度には同5％にあたる206人が不適格とされ解雇になった。
その206人のうちの一人、サラ・ウィソッキー教諭にとって解雇通知は全く寝耳に水だった。中学校での教師歴は2年と浅かったが、生徒からも保護者からも「優秀」とみられ、子どもたちへのきめ細やかな配慮は高く評価され、期待されていることを感じていたところだったのだ。
こうした評価とはうらはらに、ウィソッキー教諭についてIMPACTがはじき出したスコアは散々な結果だった。生徒の学力テストの点数がはかばかしくなく、それがアルゴリズムによって算出されて評価全体の半分を占めており、学校首脳陣や保護者らから得た高評価はその穴埋めにならなかったという。
ウィソッキー教諭は、自分に対する低評価のプロセスを調べようとしたが、それはとても複雑でとても理解できそうになかったと著者に述べている。教諭は解雇にショックを受けたものの、教師としての優秀さを生徒らが保証してくれたおかげで、近隣のバージニア州の裕福な地域の学校で職に就くことができたという。
信頼性が疑わしい教師評価ツールに頼ったせいで、貧しい学校は優秀な教師を失うことになり、学力テストの点数だけをみて教師の採用や解雇の材料にしない裕福な学校は、生徒のためにもなる優秀な教師を迎えいれることができた。
著者のキャシー・オニールさんは、数学者でデータサイエンティスト。ハーバード大学で数学の博士号を取得後、コロンビア大学で教授を務めたのちに大手ヘッジファンドに転じ、高度な数学的手法で分析や予測を行う金融工学の専門職である「クオンツ」として勤務した経験を持つ。そこでリーマンショックによる世界金融危機を目の当たりにし、クオンツのような現代のテクノロジーが社会を不安定なものにしているという思いに至ったという。
ウィソッキー教諭を解雇したIMPACTはまさにその一つ。著者は、こうしたモデルを「大量破壊兵器(Weapons of Mass Destruction)」になぞらえて「数学破壊兵器(Weapons of Math Destruction)」と呼ぶ。大量(Mass)を数学(Math)に替え、ともに略語はWMDだ。データ活用は、野球の大リーグを舞台にした「マネーボール」で知られたように、統計学を駆使したモデルを事業化して成功をもたらしたものだが、後にビッグデータの導入やAIの進化により普及が加速し、ついには数学破壊兵器にまで化けてしまったものだ。
「数学の力で動くアプリケーションがデータ経済を動かすといっても、そのアプリケーションは人間の選択のうえに築かれている。そして、人間は過ちを犯す生き物だ。モデルを作成する際、作り手は、最善の意図を込め、よかれと思って選択を重ねたかもしれない。それでもやはり、作り手の先入観、誤解、バイアス(偏見)はソフトウェアのコードには入り込むものだ」
そうしてモデルができあがり、それが「審判」を下す。その審判が誤りでも有害でも抗議することが許されない。著者によれば、審判は往々にして「貧しい者や社会で虐げられている者を罰し、豊かな者をより豊かにするような傾向がある」。本書では、一見有用でありながらネガティブなインパクトを残したものとして、ニュース週刊誌「USニューズ」による全米大学ランキングが学費高騰を加速したこと、インターネットで使われるデータの流通に応じたターゲティング広告が貧困層をさらに貧困化させていること、データを分析して組まれたはずの従業員のシフト勤務を効率的にするスケジュール管理ソフトが、過労の原因になっていることなどが示される。
AIの進化にともない懸念された、ロボットが自律して人間を支配する「シンギュラリティ」の到来は、当欄で以前に紹介した「AI vs. 教科書が読めない子どもたち」で明確に否定されていた。同書の著者である新井紀子さんは、本書の帯に「必読です！」とメッセージを寄せている。
当サイトご覧の皆様！
おすすめの本を教えてください。
本のリクエスト承ります！
広告掲載をお考えの皆様！
BOOKウォッチで
「ホン」「モノ」「コト」の
PRしてみませんか？
