【編集部注】執筆者のKatherine BaileyはAcquiaのデータサイエンティスト。
最近騒がれている機械学習のバイアスや倫理上の問題から、数字とデータには限界があることは明らかだ。偽ニュースの失態や、自然言語処理の分野で有名な研究者がその解決にあたっている様子を見ると、自分たちが解決しようとしている問題を明確にすることこそが1番難しい問題なのだとわかる。いつどのようにスマートマシーンを使うか、という判断には人間の力が欠かせない。そしてスマートマシンを賢明かつ安全に利用するためには、目的のレベルが上がるほど、人間が積極的に関わっていかなければならない。
スマートマシンを使った物事の判断における、クリティカル・シンキングの能力も、そろそろ計算能力のように高めていく必要があるということだ。計算能力に関しては機械を頼ることができる一方、クリティカル・シンキングについてはそうはいかず、近いうちに機械が人間に追いつくということもないだろう。倫理的な問題について考えたり、どのような問題であれば計算能力を頼りに解決することができるかという判断を下すのは人間固有のスキルなのだ。
数字とデータだけでは足りない場合
最近一部の研究者が、顔の特徴からその人の犯罪性を予測できる根拠をみつけたと発表した。”Automated Inference on Criminality using Face Images（顔写真を使った犯罪性の自動推測）”という論文の中でXiaolin WuとXi Zhangは、顔写真から犯罪者と非犯罪者を高い確立で見分けるために、さまざまな機械学習の手法を用いてどのように分類システムを構築したかについて述べている。結局この論文は、不完全かつ無責任に機械学習技術を利用しているとして激しく非難された。この場合、恐らく彼らの計算は間違っていなかったが、そもそものアイディア自体に問題があったのだ。
ふたりはアルゴリズムを信用するあまり、自分たちの思い込みに気づけなかった。彼らは司法制度には偏りがないといった、自分たちの発見を完全に色眼鏡で見てしまうような思い込みをしていたのだろう。このような問いについて考えられないと、どれだけ優秀なスマートマシンを持ってしても、どうにもならない結果に陥ってしまう。
スマートマシンの勝利
恐らく近年で最も印象的なスマートマシンの功績は、昨年3月の囲碁の世界チャンピオンとの対決におけるAlphaGoの勝利だろう。Googleの子会社であるDeepMindの研究者が開発したこのシステムは、複数の機械学習の手法を驚くほど洗練された形で利用し勝利をおさめた。
倫理的な問題について考えたり、どのような問題であれば計算能力を頼りに解決することができるかという判断を下すのは人間固有のスキルだ。
その手法の中には、何百万という数の過去の試合のデータをもとにしたものや、AlphaGo自身との対戦結果をもとにしたもの、また全ての手（宇宙に存在する原子の数よりも多い）を考えなくてもいいようにショートカットを考案するための最新の統計手法などが使われていた。しかし試合自体はスマートマシンがあったからこそ勝てたものの、そのシステムを設計したのは人間にほかならない。
同じ言葉の繰り返しのように聞こえるかもしれないが、私たちがスマートマシンを使って問題を解決したとき、それは単にその問題がスマートマシンによって解決できる問題であっただけで、だからといってスマートマシンが人間と同じレベルに達したということにはならない。つまり、もしもある課題がデータと数字の組み合わせで解くことができるものであれば、それはスマートマシンが解決すれば良い課題だ。そしてデータと数字だけでは解けない問題に対しては、まずシステムを設計しなければならない。
欠かすことのできない人間の役目
もしもAlphaGoを設計する人のクリティカル・シンキングに誤りがあれば、結果的にAlphaGoの囲碁のレベルは下がるだろう。しかし犯罪性の予測のような問題の場合、クリティカル・シンキングのレベルが低いと、システムによって誤って犯罪者だと認識されてしまった人はもちろん、ほかにも恐ろしい結果が生まれることになる。
スマートマシンに対する恐れの中心には、人間が置いてけぼりにされることへの恐れがある。つまり、ひとたび機械が人間のできることを全てこなせるようになってしまえば、人間の必要性がなくなってしまうのではないかと多くの人が考えているのだ。しかしこれは単に、スマートマシンとは何かということへの誤解から生じる不安でしかない。
スマートマシンは人間のために人間がつくった単なるツールに過ぎない。機械は囲碁の試合で勝てるかもしれないが、その試合を選ぶのはいつも人間だ。
私たちはツール自体の素晴らしさ（確かに本当に素晴らしいツールはたくさんあるが）ではなく、そのツールがうまく設計されているかや、道理に反することなく人間の役に立っているかといった点にもっと注目しなければならない。トレーニングデータにバイアスは含まれていないだろうか？フォールス・ポジティブの結果何が起きてしまうのか？このような問いに答えられるのは人間だけであり、その絶対的な必要性は今も昔も変わらない。
［原文へ］
（翻訳：Atsushi Yukutake/ Twitter）