タグ: 人工知能

2016年、マーク・ザッカーバーグは野心的な個人的プロジェクトを設定していた。照明の制御、訪問者の監視、家電の操作など、自宅での作業を自動化するための人工アシスタントを構築することだ。ザッカーバーグはFacebook上で、ある意味「想像していたものよりも簡単」だったと述べている – この記事を読んでいる人のそれなりの割合が、そんなことはAmazon Echoのような既存のデバイスでできるのだから驚くほどのことでもないと考えることだろう。

公平を期すために言うならば、ほとんどの（全員？）Echoオーナーは、自分自身のためのAlexaサービスを最初から構築したりはしないが、まさにそれこそがザッカーバーグのやったことだ。彼自身のパーソナルJarvisをPython、PHP、そしてObjective Cを使ってコーディングし、言語処理や音声認識、そして顔認識などを組み込んだ機械学習技術とりこんでいる（Jarvisはコミック「アイアンマン」に登場する人工知能キャラクター）。

FacebookのCEOはまた、Sonos、Spotify、Samsung TV、Crestronのスマートホーム照明システム、Nestのビデオカメラなどの、買ってきた状態では必ずしも相互に通信をすることが想定されていない沢山のコネクトデバイスを取り扱う必要があった。これらのデバイスをすべて接続したあと、ザッカーバーグはあたかも他の人に頼むように話す言葉で機器を制御できるようにするために、自然言語要求を翻訳する手段を構築する必要があった。さらに、これらの要求は文脈で理解されなければならなかった。たとえばザッカーバーグの妻でChan Zuckerberg Initiativeの共同議長であるプリシラ・チャンが「私のオフィスで」何かをするよう頼んだ場合、それは彼女の夫がまったく同じ要求をした場合とは違うアクションを引き起こさなければならない。

ザッカーバーグがJarvisにやってもらうことのできるより面白いことの1つは、まだ市場には存在していない機能だが、実際に音楽の彼の好みを認識し、わずかな入力で再生する適切なトラックを自動的に選択することだ。Jarvisは以前に演奏された音楽をチェックして選択を行う。またザッカーバーグがより具体的な指示をしたい場合は「何か明るい曲を再生」といったような一般的な用語を使用して雰囲気を変えるよう求めることもできる。このシステムはまた、チャンの好みを別途追跡し、彼女のためにも同じことをすることができる。

ザッカーバーグがJarvisとテキストでやりとりするFacebookメッセンジャーボットを構築したことも注目に値する。そして全体的には声を使うよりもテキストを使ったコミュニケーションの方が望ましいと述べている、これは主に家の中にいる他の人の邪魔にならないようにするためだ。

ザッカーバーグはプロジェクトのまとめとして「AIは私たちが想像しているよりもさらに近く、同時にさらに遠いものです」と書いている。こう書いた理由は主に、特定のドメイン機能では大きな進歩を遂げているものの、あるドメインでの学習結果を他のドメインの問題に適用しようとする際にはあまり上手くいかないからである。言い換えれば本当に有能な汎用AIはまだまだ遠い道のりだということだ。

それでもザッカーバーグは、彼が2016年にJarvisの構築に100時間前後を費やして、かなり有用なシステムを生み出したことに触れ、さらに彼の特定のセットアップに縛られないより多くのホームオートメーション機能を実現することができたときには、最終的にはシステムを公開するかもしれないと述べている。彼はまた、これが新しい将来のFacebook製品の基礎を証明する可能性があるとも述べている。とはいえこれはちょっと生意気な態度だろう、なにしろFacebookの技術者たちが少なくともある種のAlexa型の競合相手をいろいろ研究しているのはほぼ確実なのだから。もし彼らがそうしていないとしたら、それは相当に近視眼的だ。

そして、 悲しいことにロバート・ダウニー・Jrへの言及もなかった 。

[ 原文へ ]
（翻訳：Sako）

【編集部注】著者のKristian HammondはNarrative ScienceでR&Dに従事する主任科学者兼共同創業者である。Krisはまた、ノースウェスタン大学のコンピュータサイエンスの教授でもある。

私たちは何かと、マシン、特にスマートマシンを、冷静に計算しバイアス（偏り、偏見）がないものと考える傾向がある。私たちは、自動運転車は、運転手と無作為な歩行者の間の生死の決定に対して、好みを持っていないと考えている。また私たちは、信用調査を実施するスマートシステムは、収入やFICOスコアなどの真にインパクトのある指標以外は無視しているものと信頼している。そして私たちは、学習システムは、バイアスのないアルゴリズムによって動作しているのだから、常に真理に基づいた地点に達するものだと考えている。

機械の厳格な視点の外側は感情的であるはずはないと考える人もいる。また機械は人間のバイアスから自由であるはずだと思う人もいる。そしてその中間として、機械は客観的だという見方がある。

もちろん、そんなことは全くない。現実には、純粋にバイアスのない知的システムは非常に少ないだけでなく、バイアスにも複数の源泉がある。これらのバイアス源には、システムを訓練するために使用するデータバイアス、「現場」でのインタラクションを介したバイアス、偏向出現バイアス、類似性バイアス、そして相反する目標に対するバイアスが挙げられる。これらの源泉のほとんどは意識されることがない。しかし、インテリジェントシステムを構築して展開する際には、意識しながら設計し、可能なら潜在的な問題を避けるためにも、そうしたバイアス源を理解することが不可欠だ。

データ駆動型バイアス

自ら学習するシステムの場合、出力は受け取ったデータによって決まる。これは別に新しい洞察ではなく、文字通り何100万ものデータによって駆動されるシステムを私たちが見る際に、忘れられがちなことである。圧倒的な量のデータは、任意の人間のバイアスを圧倒するだろうというのがこれまでの考えだった。しかしトレーニングセット自身が歪んでいたときには、結果も同じように歪んでしまうのだ。

最近では、この種のバイアスは、ディープラーニング通した画像認識システムに見ることができる。ニコンのアジア人の顔に対する混乱や、HPの顔認識ソフトウェアにおける肌色認識の問題といったものは、どちらも歪んだトレーニングセットからの学習の産物であるように思える。どちらも修正可能であり、かつ意図的ではないが、これらはデータのバイアスに注意を払わない場合に発生する可能性のある問題を示している。

顔認識以外にも、現実世界に影響を及ぼす厄介な例が他にもある。仮釈放者、犯罪パターン、または従業員候補者の再犯率の予測のためのルールセットを構築するために使用される学習システムは、潜在的に負の影響を与える。歪んだデータを用いてトレーニングを受けた場合、あるいはデータはバランスが取れていても意思決定にバイアスがかかっていた場合には、バイアスも永続化する。

インタラクションを介したバイアス

サンプルセットを一括して調べて学習するシステムもある一方で、インタラクションを通じて学習する種類のシステムも存在する。この場合には、システムとインタラクションを行うユーザーのバイアスによって、システムのバイアスが引き起こされる。このバイアスの顕著な例は、ユーザーとのやりとりから学ぶように設計されたTwitterベースのチャットボットであるMicrosoftのTayだ。残念なことにTayは、Tayに人種差別主義者と女性差別を教え込んだユーザコミュニティの影響を受けた。要約して言えば、コミュニティはTayに対して攻撃的な発言を繰り返しツイートし、その結果、Tayはそれらの攻撃的発言を反応のための材料として使うようになったのだ。

Tayがひとかどの人種差別主義者になって、Microsoftがシャットダウンするまでには、わずか24時間しかかからなかった。Tayの人種差別的暴言はTwitterの中に限られていたが、それは実世界への影響の可能性を示唆しているものだ。人間のパートナーと共同で意思決定を行い、そして学ぶインテリジェントなシステムを構築する際には、更に問題のある状況で、同様に悪いトレーニング問題が発生する可能性がある。

ではその代わりに、インテリジェントなシステムに、時間をかけて指導する人たちとパートナーシップを結ばせればどうだろうか？融資の可否を決定する、あるいは仮釈放の可否を決定するマシンに対する、私たちの不信を考えて欲しい。Tayが教えてくれたことは、そのようなシステムが、それらを訓練する人々の意見を反映して、良くも悪くも、その環境と人びとの偏見を学ぶことである。

偏向出現バイアス

ときには、パーソナライゼーションを目的としたシステムによる意思決定が、私たちの周りにバイアスの「バブル」を作り出すことがある。このバイアスが働いている様子を見るためには、現在のFacebook以上に相応しい場所はない。Facebookのトップページで、ユーザーは友人たちの投稿を見て、彼らと情報を共有することができる。

残念ながら、データフィードの分析を使用して他のコンテンツを提示するアルゴリズムは、ユーザーが既に見た好みのセットに一致するコンテンツを提供する。この効果は、ユーザーがコンテンツを開いたり、 「いいね！」したり、共有したりするにつれて増幅される。その結果得られるのは、ユーザが既に「信じていること」に向かって歪められた情報の流れである。

それは確かにパーソナライズされ、しばしば安心もさせるものだが、それはもはや私たちがニュースと考えるようなものではない。これは情報のバブルであり、「確証バイアス」（仮説や信念を検証する際にそれを補強する情報ばかりを集め、それに反する情報を無視または集めようとしない傾向）のアルゴリズムバージョンなのだ。システムが自動的にそれを実行してくれるので、ユーザは自分の信念と矛盾する情報から自分で身を守る必要はない。

ニュースの世界に対しては、こうした情報のバイアスの影響は厄介だ。しかし、企業における意思決定を支援する方法としてソーシャルメディアモデルを考えた場合、情報バブルの出現をサポートするシステムは、私たちの思考を歪める可能性がある。自分のように考える人々からの情報しか得ていないナレッジワーカーは、対照的な視点を決して見ることはなく、選択肢は無視して拒否する傾向がある。

類似性バイアス

時にバイアスは、単に設計されたように動作するシステムの生産物そのものである。例えばGoogleニュースは、ユーザーの問い合わせに合致するストーリーを、関連するストーリーとセットで提供するように設計されている。これはまさに設計された通りの結果で、とても上手く働いている。もちろん、得られた結果は、お互いの確認と裏付けをする傾向のある、類似したストーリーのセットになる。つまり、Facebookで見たパーソナライズバブルと似ている、情報のバブルを得ることになる。

ここには確かにこのモデルによって強調される、ニュースの役割とその拡散に関連する問題が存在している — 最も明白な問題は情報へのバランスのとれたアプローチだ。「編集制御」の不在は、幅広い状況を調べることになる。類似性は、情報の世界では強力なメトリクスだが、それは決して唯一のものではない。異なる視点は、意思決定のための強力なサポートを提供する。問い合わせや既存の文書に「類似する」結果しか提供しない情報システムは、独自のバブルを生成する。

例えイノベーションと創造の視点に対する、縮小、反対、矛盾であっても、類似性バイアスは、特に企業では受け入れられる傾向にあるものの一つだ。

相反する目標バイアス

時には、特定のビジネス目的のために設計されたシステムが、全く予期されなかったバイアスを持つことがある。

たとえば、求職者に対して仕事の説明を提供するように設計されたシステムを想像してみて欲しい。ユーザーが仕事の説明をクリックすると、システムによって収益が発生する。当然、アルゴリズムの目標は、最高のクリック数を得るジョブ記述を提供することになる。

結局のところ、人びとは自分のセルフイメージに合った仕事をクリックする傾向があり、そのイメージは単に選択肢を示すだけでステレオタイプの方向に強化することができる。例えば、「看護」と「医療技術者」というラベルが付けられた仕事を提示された女性は、最初の方に向かう傾向がある。仕事が彼らのために最適という理由ではなく、ステレオタイプがイメージされて、自分自身をそのイメージに重ねるからである。

ステレオタイプの脅威が行動に及ぼす影響は、仕事に結びついたステレオタイプ（例えば、性別、人種、民族）に関する個人の知識に合致する仕事の提示が、より多くのクリックに結びつくことである。その結果、クリックスルーの行動に基づく学習コンポーネントを持つサイトは、ステレオタイプをより強化する機会を提示する方向に変化する傾向がある。

マシンのバイアスは人間のバイアスだ

理想的な世界では、インテリジェントなシステムとそのアルゴリズムは客観的なものだろう。残念なことに、これらのシステムは私たちによって構築され、その結果、私たちのバイアスを反映してしまう。バイアス自体と問題の源泉を理解することで、わたしたちはシステムを積極的に設計してバイアスを回避することができる。

おそらく、完全に客観的なシステムやツールを作成することはできないだろう、しかしそれらは、少なくとも私たち自身よりはバイアスが少なくなるだろう。そうなれば、おそらく選挙が私たちに不意打ちを食らわすこともないだろうし、通貨はクラッシュしないだろうし、パーソナライズされたニュースのバブルの外の人たちと、コミュニケーションを行うことができるだろう。

[ 原文へ ]
（翻訳：Sako）

AragoのフラッグシッププロダクトHIRO AIは、Freeciv（長年人気を誇っているシド・マイヤー監修のシヴィライゼーションシリーズにインスパイアされた無料の文明構築シミュレーションゲーム）をプレイすることができる – そしてそれはますます巧みになってきている。Freecivは膨大な数の戦略が成功へと導く、複雑で広がりのあるゲームで、とくに予測できない人間相手だとその特徴が際立つ。しかし現在HIROは対戦する人間の8割を圧倒することができるようになったことがTechCrunch Disrupt London 2016の壇上でAragoから発表された。

ビデオゲーム勝つことは、どれほど複雑なのだろうか？まあ、それはあなたが選んだオプションや、Freecivのゲームで普通に起こる多くのターンの間に劇的に変化する可能性のある変数にも依存している。個々のゲームの可能な順列は10の15000乗にも達し、これが意味することは、個別の調整やターンの進め方を本当に「学習」するには、極めて可塑性の高いAIを必要とするということだ。

ゲームは、AIの能力をテストし証明するための共通のプラットフォームであることが明らかになっている；GoogleのAlphaGoは、その成功によって多くの注目を集めている例だ。Aragoは、Freecivをプレイする際に可能な打ち手の数が、実際に囲碁よりも指数関数的に大きかったことを指摘している。最高の人間相手に対戦を開始する前でも、まだHIROは小さいデータプールから少ないトレーニングを受けているだけだった。

HIROは既に、ゲームに同梱されているFreeciv内蔵の 「AI」相手には負ける事はなくなっていた（これは言いすぎかもしれない、内蔵AIに関しては追加情報を持っていないので）が、人間のプレイヤーを打ち負かすことができたのは初めてのことだ。まだ人間の対戦相手全員を負かすことはできないが、それでもプラットフォームの進歩を示す顕著な指標だ。

プロのようにゲームを行うことは素晴らしいことだが、それがHIROの唯一の目的ではない。このAragoのAIサービスは、まず第1にビジネス全体のIT自動化を改善しようとする企業に提供され、HIROは企業の人間のITエキスパートの能力拡張のために用いられ、時間の経過とともに、人間もAI自身も良くなっていく。

Aragoによれば、HIROは他のAIエージェントとは異なるやりかたでスマートになっていく。創業者兼CEOのHans-Christian Boosがステージ上で語ったことによれば、同社はHIROを「トレーナー」を使って教えているという。トレーナーは実際の言葉を使ってHIROに人間の手本を伝える、これが意味していることは彼らの機械学習は機械推論コンポーネントも含んでいるということだ。それによって機械はFreecivの例題の中で「タイル」とか「都市」といった概念を学んでいくことができる。これらの概念を想起して再結合することで、科学的（ゲームプレイ）能力とプロフェッショナル（エンタープライズIT）能力の両方に適用されるパフォーマンスの最適化に最終的につながっていく。

Aragoの目標は、具体的で狭いAIを作成することではなく、幅広いタスクを学び、実行できるより一般的なツールを作成することだ。シヴィライゼーション（そしてFreeciv）は、その目標をさらに進める上で役立ち、Boosは無償、戦略、そして莫大なコミュニティフィードバックという重要な要素が、前進の要素としてのFreecivの利用に役立ったということも指摘した。

[ 原文へ ]
（翻訳：Sako）

Amazonは本日、ラスベガスで開催している 開発者イベントre:InventでAmazon AIプラットフォームのローンチを発表した。Amazonが何年もかけて開発した機械学習の知性を社外の開発者でも利用できるようにする。最初の段階では3つのツールを提供するが、今後新たなツールを追加していく計画だという。

Amazonは機械学習の取り組みについてあまり発表してこなかったが、この分野において多くの知見があるとAmazon Web ServiceのCEO、Andy Jassyは強調する。「長くAIに取り組んできました。私たちのビジネスにはAI専任の人員が何千人もいます」という。

Amazon AIのツールの1つは画像認識サービス「Rekognition」だ。GoogleやMicrosoftなどが提供するサービスと同じように画像に写る物を特定することができる。Amazonのツールでは、画像に写っている犬の犬種まで認識できるとAmazonは主張する。ただ、他の競合サービスでもたいてい同じことができることは明記しておきたい。Amazonのサービスはとてもコスト効率が良いとJassyは説明しているが、実際の価格帯をまだ発表していない。

2つ目は Amazon Pollyで、これはテキストを音声に変換するサービスだ。裏では機械学習の知性を多く活用しているという。人が話しているかのような音声が作成できるとJassyは話す。「Pollyは、音声生成でこれまで課題だった部分を解決します。例えば、『live』の言葉の発音は文章によって異なります。『I live（リブ） in Seattle』と『Live（ライブ） from New York』のようにです。Pollyは同形異義語を認識して、スペルが同じでも発音が違うことを知っています」。

Pollyは男性と女性の47の音声を備え、24言語に対応している。

3つ目のサービス「Lex」で、これが一番重要な新サービスだろう。基本的にはAmazonが手がけるAlexaを動かしているテクノロジーと同じとJassyは言う。複数回のやりとりを要するコミュニケーションにも対応する会話型アプリケーションをこれで開発することができる。開発者はLex Consoleから会話を設計し、サンプルの会話文でボットを訓練することができる。

「 Amazon Lexを使用してチャットボット、あるいはユーザーと生き生きとしたインタラクションを持つウェブやモバイルアプリを制作することが可能になります」とAmazonは本日の発表で伝えた。「ボットは情報を提供したり、アプリを動かしたり、作業を効率化したり、さらに他のロボット、ドローンやおもちゃの操作するのにも活用することができます」。

本日のキーノートでAmazonは、声の指示だけで航空券を予約する様子を見せた（なぜか航空券の予約がこういったサービスの定番のデモになっている）。LexはLambdaや他のAWSのサービスと深く連携し、また他の法人向け連携サービスにも対応している。他にもFacebook Messenger、Slack、Twilioとも連携可能で、これによりAmazonの端末にとどまらず、基本的に他のどのデバイスでもこれらのサービスを使ってアプリを開発することができる。

[原文へ]

（翻訳：Nozomi Okuma /Website）