タグ: 人工知能

1888年、ニューヨークのロチェスターでジョージ・イーストマンがKodakを創業した。そしてその4年後、200マイル離れたニューヨークのスケネクタディで、トーマス・エジソンとその仲間たちがGeneral Electric（GE）を創業した。この2つの19世紀大企業は、その後100年以上に渡って着実に業務を続けて来たが、GEがいまだに2500億ドルの時価総額を保っているのに対して、 Kodakの時価総額は4億6600万ドルと、かつての面影はない。ではGEはどのようにしてそのような運命に陥るのを避けたのだろうか。

今月初め、GEはニューヨークのニスカユナにあるGEグローバル研究センターの見学に、私を招待した。この研究センターはスケネクタディにエジソンが建設した工場のすぐ近くにある、実際、会社を設立してわずか8年後の1900年に、研究所を開設したのはエジソンとそのパートナーたちだった。おそらく同社の創業の父たちが、絶えることなく自分自身を変革する必要があることを理解していたのか、あるいはエジソン自身による実験への拘りの産物だろう。

どのような理由であろうとも、117年後の今日、研究所はニューヨーク州の美しい丘陵地帯に広がる広大なキャンパスとなり、2000人に及ぶ賢い人びとが、どのような形になるにせよ製造業の未来を見据えるために集められている。世界がデジタル化される一方で、物理的な領域にしっかり留まる基本的なものもある。例えば飛行機のエンジン、列車の機関車、原子力発電所、ガスタービンなどだ。

GEは、Kodakのように経済的基盤のほとんどがゆっくりと（そして最後は非常に速く）崩壊していくのを、指をくわえて眺めていたわけではない。GEは、もし自分自身を繰り返し再評価し続けなければ、Kodakと同様の運命になってしまうかもしれないということを、本質的に理解しているようだ。そのように同社は、過去125年の間に作り上げて来た巨大な工業製品が、データとデジタルに交わる未来を見据えているのだ。

デジタル世界への移行

世界はデータを中心にした大規模な移行の途上だ。もしそれを疑うなら、現代的データ駆動型組織の典型的な例としてTeslaを見てみよう。Teslaは車のビジネスに参加しているが、CEOのイーロン・マスクは最初の段階から、車から得られるデータと物理的な車両自体との間には切り離すことのできない関係があることを認識していた。Teslaがそれらのデータを収集するにつれて、同社はより良く、よりスマートで、より効率的な車を生産することが可能になる。そしてそのデータをさらに収集し、好循環を生み出すことができるようになるのだ。

GEも自身が製造し販売する産業機械とデータとの間に同様の認識をしている。センサーはよりスマートで安価になって行くので、マシンがどのように動作しているかについてデータが示すものから得られるものだけでなく、エンジニアリングとデザインの両方の観点から得られるマシンの詳細な理解に基づいて、新しいビジネスモデルを構築することができる。

GEグローバル研究所の副社長であるDanielle Merfeldは、GEの産業界に対する幅広い業績を示すために以下のように述べた。「現在GEは、世界中の様々な業界に対して、およそ2兆ドルに及ぶ資産を投入しています。このことで、（私たちの）成功に不可欠なシステムとプロセスに対する膨大なノウハウへアクセスすることが可能になります」。

Merfeldは、デジタルと物理を組み合わせれば、強力なことが起き得ると付け加えた。彼女は、そうした物理的資産が世界でどのように働いているのかに関する、会社の深い理解から全てが始まると語った。「私たちは物理的世界の上にただデジタルの層を重ねようとしているのではありません。そして私たちの物理的世界を、それに対するデジタルの解釈で置き換えようとしているのでもありません。そうではなくて、私たちがこれまでの経験から得ることができたり、専門性を持っていたりする個別部品の、単なる総和を上回るものを得るために、デジタルとフィジカル（物理的世界）を組み合わせようとしているのです」。

最先端を探る

GEと、ニューヨークに加えて世界中に4つの姉妹ラボがあるグローバル研究センターにとって、これは自身を大胆な実験の場として表現したものだ。それが意味するところは、最先端（edge）から沸き起こり始めた技術を見極め、その未来の技術をGEの工業製品に取り入れる手法に取り組むことを意味する。

同社の最も野心的なプロジェクトの一部は、その名もふさわしいEdge Lab（最先端ラボ）で行われている。Edge Labは今年1月に開所し、次々に登場する実験的テクノロジーに対する作業に取り組んでいる。彼らが現在取り組んでいるものには、拡張ならびに仮想現実、ロボットやブロックチェーンなども含まれる。

「Edge Labの目的は、技術を実現可能性の境界線上で探求し、何が可能かを示すことです」と語るのはEdge Labグロースリーダー（growth leader）のBen Vershuerenだ。彼によれば、彼らはそうした実験をGEのドメイン知識と組み合わせて、どのように会社のプロダクトセットに組み込むことができるかを見出そうとしている。

Edge Labは、限られた期間だけ継続するプロジェクトたちのために存在し活動するもので、個々のプロジェクトのメンバーは、それぞれの専門性を限られた期間（すなわちプロジェクトの生存期間）の間持ち寄って参加する。つまり、プロジェクトの変化に伴い、研究スタッフも時間とともに変化していくのだ。

「ミッションを発見してその目的を決めたら、そのミッションのための適切な技術専門家を見出し、ミッションが必要とするものを得ることができるまでLabで作業をしてもらいます。その後彼らは（GE内の元のポジションに）戻り、私たちはまた別のプログラムに移行します」とVershuerenは説明した。

大胆な実験

Edge Labのツアー中、そしてGEグローバル研究センターでの1日を通して、私はそうした実験のうちの幾つかを見ることができた。

そのうちの1つは、 Microsoftの複合現実ヘッドセットであるHoloLensを利用して、超音波装置によって正しい臓器の特定を訓練するものだった。人口過疎地では、そうした超音波装置を使うことのできる、訓練されたプロフェッショナルを見つけるのが困難だろうという考えと、拡張現実が訓練デバイスとして使うことができるだろうという考えに基づいている。

まず最初に、HoloLensを装着し、仮想的な超音波プローブを手に取って、指示された正しい臓器を特定するまで動かす。例えば、心臓と肝臓が提示され、肝臓を選択する必要があるとする。もし間違った場合には、間違ったものを選択したことがデバイスからフィードバックされる。

最終的には、HoloLensで仮想的トレーニング環境を提供しつつ、実際のプローブを用いるものと同程度のレベルのフィードバックを返すことをチームは目指している。GEが超音波装置を販売していることを思い出して欲しい、もしそれらを通常は売られていない地域に持ち込んで、特定の医学的バックグラウンドを持たない人間がそれを利用できるように訓練できるとしたら、GEは更に多くの装置を販売することができる。

また別のアイデアとして、ロボット、仮想現実、そしてストリーミングデータをミックスするものがあった。ここでは彼らは、海洋の真ん中にあるオイルリグや風力タービンのような危険な場所にロボットを設置することができるようにすることを考えている。保守のために、人間を荒波の海上に船で送る代わりに、人間は安全な岸からロボットを制御して、修理を指示するのだ。

それを使うにはまず、左右それぞれの手にコントローラーを握って、HTC Viveヘッドセット装着する。仮想世界に入ると、2つのコントローラーと一緒にロボットの表現を見ることができる。コントローラの1つがロボットの動きを制御します。コントローラーの1つはロボットの動きを制御する。もう1つは仮想iPadへのアクセスを提供し、そこから“Drive”、“Teleport”、そして“Arm”モードのツールを選ぶことができる。Driveを選ぶとロボットの動きを制御することができる。Teleportは仮想世界の中での動きを制御し、Armはロボットの腕を制御して修理を行ったり破片を拾ったり（あるいは必要のある他のことを何でも）することができる。

今回のツアー中に見たすべてのタスクとプログラムは、最終的にはこれらの高度なテクノロジーを使用して、GEがその大きな機械を使って物理的世界でやっていることを向上させたり、何故特定のテクノロジーがいまくいかないのか（少なくとも実験上では）を理解するといった目的を持っていた。

同社は、グローバル研究センターの力を結集し最新テクノロジーを継続的に調査することで、ロチェスターにある製造業の従兄弟（Kodak）の運命を回避したいと願っている。1つのことだけは明らかだ。彼らは座して破滅を待つようなことはしない。125年前にトーマス・エジソンが会社を設立したときにように、彼らは先を見続けて、最新のテクノロジーを評価し、次の偉大なアイデアを探し続けるだろう。

[ 原文へ ]
（翻訳：Sako）

すべてのアルゴリズムバイアスがこれと同じくらい簡単に見つけられれば良いのに。フォトリアリスティックなやり方で、自撮り写真の編集をニューラルネットワークで行う写真編集アプリFaceAppは、人種差別的（racist）アルゴリズムを提供したことを謝罪した。

このアプリは、ユーザーが自撮り写真や、撮影済みの顔の写真をアップロードして、その見かけを微妙にあるいは大胆に変えるフィルターの適用を行わせるものだ。風貌を変える効果の中には、老化や異性化なども含まれている。

問題は、アプリには”hotness”（ホットにする）フィルターも含まれていたことで、このフィルターが人種差別主義者だったのだ。あるユーザーが指摘したように、このフィルターは議論の余地がある「美肌化」効果を出すために、肌の色調を明るく調整するのだ。フィルターの適用前後の効果は、上のオバマ大統領（当時）の写真で見ることができる。

人種差別的なアルゴリズムを謝罪する電子メールによる声明で、FaceAppの創業者兼CEOのYaroslav Goncharovは次のように語っている「この疑いようもない深刻な問題に対して深くお詫び申し上げます。これは、意図された振る舞いではなく、訓練セットの偏りによって引き起こされた、基盤を構成するニューラルネットワークによる不幸な副作用でした。この問題を緩和するために、私たちはフィルタの改名を行い、その効果に対する肯定的な含意を排除しました。また程なくリリースされる完全な修正にも取り組んでいます」。

先にGuardianが指摘したように、このアプリはここ数週間で爆発的な人気を得た。恐らくこのことが、フィルターが問題を抱えていることをFaceAppが認識することを助けたのだろう。

FaceAppは一時的に不快なフィルタの名前を “hotness”から “spark”に変更したが、非人種差別的な代替品の出荷準備が整うまではアプリから完全に削除しておいたほうがより賢明だったかもしれない。おそらく彼らはアプリのクチコミパワーの高まりへの対応に手一杯なのだろう（明らかに毎日70万人のユーザーが増え続けている）。

FaceAppのエフェクトを支える基盤となるAI技術には、GoogleのTensorFlowなどのオープンソースライブラリのコードも使われているが、”hotness”フィルターのトレーニングに用いられたデータセットは彼ら独自のもので、公開されているデータセットではないということを、Goncharovは私たちに明言した。そのため何処に責任があるかについては議論の余地はない。

率直に言って、アルゴリズム内に埋め込まれたバイアスによるリスクの（ビジュアルな）例として、これ以上わかりやすいものを探すのは難しいだろう。機械学習モデルは、与えられたデータと同じ程度にしか良くはならない。そしてFaceAppの場合には、モスクワに拠点を置くチームによって行われたトレーニングデータには、明らかに十分な多様性が欠落していたのだ。少なくとも、 潜在的なアルゴリズムバイアスの目に見えない問題を、このような視覚的にインパクトのある方法で提示してくれたという点では、彼らには感謝することができるだろう。

AIがますます多くのシステムの制御を手渡されるようになれば、その審問を完全に行うためにアルゴリズムの説明責任への圧力が高まるし、人間のバイアスが私たちのマシンに埋め込まれることを避けるための堅牢なシステムの開発の必要性も高まる。自律技術とは「人間の欠陥から自由になれる」ものではない、もし人間の欠陥から自由になれると主張しようとする開発者がいるならば、それは嘘を売ろうとしているのだ。

[ 原文へ ]
（翻訳：Sako）

一緒に働くチームメンバーの中で、ひときわ情報通の人がいるかもしれない。チームリーダーとしては、メンバー全員が仕事に関連した最新ニュースや情報に触れていてほしいと思うところだろう。ストックマークは、そうしたチーム全体の情報感度の底上げを目指すウェブニュースの情報収集サービス「Anews」を本日正式ローンチした。

TechCrunch Japanでは以前、ストックマークの提供するブックマーク管理アプリ「StockMark」を紹介した。これは、Pocketやはてなブックマークなどのブックマークサービスに保存した記事を人工知能で解析し、最適なタイミングで読むべき記事をレコメンドするアプリだ。

このStockMarkを社内の情報共有に使えないかと法人から相談を受けたのがAnewsを開発するきっかけになったと、StockMarkの代表取締役CEOを務める林達氏は説明する。会社の広報や人事部は仕事の一環として、業界ニュースなどの情報を収集しているだろうが、収集は手間がかかる作業の上、全社員に効率的に共有する方法がなかった。もちろん社内SNSなどで記事を社員に送付することはできても、どれくらい閲覧しているかトラックする方法はなく、そもそもあまり読まれないという課題を企業は抱えていたという。

StockMarkの提供するAnewsは、チームで設定したキーワードに関連する記事を国内外の1万以上のメディアから記事を収集し、一覧で表示するサービスだ。Anewsに社員がログインすると、そのキーワードと関連が深い順に記事が並んでいる。Anewsに実装しているアルゴリズムは単にキーワード検索をしているのではなく、記事自体にキーワードが含まれなくても関連度の高い記事を選ぶことができると林氏は説明する。

Anewsは、使い込むほどその組織にとって最適な記事が配信されるようになると林氏は言う。このアルゴリズムはStockMarkで集まったユーザーデータがあるからこそ実現できたそうだ。「StockMarkで何百万という記事を解析して得られたユーザーの趣味嗜好のデータがAnewsの基盤になっています」と林氏は説明する。

ユーザーは記事に「いいね！」することができ、今日のアップデートからコメントも記載できるようになった。社内版NewsPicksとしてコミュニケーションの促進に活用できるだろうと林氏は説明する。管理者権限のあるユーザーには、各ユーザーごとにどれくらい記事が読んでいるかなどをチェックできるアナリティクス機能も用意している、

個人がプライベートで読む記事は趣味嗜好もバラバラだが、「会社の部署やチームで必要とする情報はほとんど一緒だと思います」と林氏は話す。Anewsは組織の情報収集を効率化し、組織全体の情報感度を高められるサービスになることを目指しているという。今後は、例えばユーザーの閲覧数に基づくランキング機能やゲーミフィケーションなどで、社員が記事を読んだり、社員同士のコミュニケーションを促進できる仕掛けを実装していく予定だ。

社内SNSは、私にも経験があるが、利用する目的が明確でないと人事や広報以外あまり利用しなくなりがちだろう。記事が毎日送られてくるのはいいが、社員がAnewsの選ぶ記事に価値を感じ、習慣的にAnews上で記事を読むようになるかどうかがこのサービスが成長する上で重要なポイントとなりそうだ。

Anewsは2016年12月よりベータ版を提供していて、これまでに100社以上が利用している。コンチネンタル・オートモーティブや帝人といった大手の利用もあるという。Anewsの利用価格は、月額2万9800円からだ。

【編集部注】本記事はGumGumのOphir Tanz（CEO）とCambron Carter（画像認識チームのトップ）によって共同執筆された。GumGumはコンピュータービジョンに特化したAI企業で、広告からプロスポーツまで世界中のさまざまな分野にAI技術を応用しようとしている。カーネギーメロン大学で学士・修士（いずれも理学）の学位を修めたTanzは、現在ロサンゼルス在住。一方、GumGumで幅広い分野に対応したコンピュータービジョン・機械学習ソリューションの設計に携わっているCarterは、ルイスビル大学で学士（物理学、電子工学）・修士（電子工学）の学位を修めた。

これまでに人工知能（AI）関連の記事を読んだことがある人であれば、ほぼ間違いなく”ニューラルネットワーク”という言葉を目にしたことがあるだろう。ニューラルネットワークとは、大まかな人間の脳の仕組みを模したモデルで、与えられたデータを基に新しい概念を学習することができる。

機械学習の一分野であるニューラルネットワークこそ、長く続いた”AI冬の時代”を終わらせ、新時代の幕開けを告げたテクノロジーなのだ。簡単に言えば、ニューラルネットワークは業界の根底を覆すような、現存するテクノロジーの中でもっともディスラプティブな存在だ。

そんなニューラルネットワークに関するこの記事の目的は、読者のみなさんがディープラーニングについて会話ができるようになるくらいの理解を促すことにある。そのため、数学的な詳しい部分にまでは入らず、なるべく比喩やアニメーションを用いながらニューラルネットワークについて説明していきたい。

力ずくの思考法

AIという概念が誕生してからまだ間もない頃、パワフルなコンピューターにできるだけ多くの情報とその情報の理解の仕方を組み込めば、そのコンピューターが”考え”られるようになるのでは、と思っている人たちがいた。IBMの有名なDeep Blueをはじめとする、チェス用のコンピューターはこのような考えを基に作られていた。IBMのプログラマーたちは、十分なパワーを持ったコンピューターに、あらゆる駒の動きや戦略を余すことなく入力することで、理論上はそのコンピューターが駒の動き全てを予測し、そこから最適な戦略を編み出して相手に勝つことができると考えたのだ。実際に彼らの考えは正しく、Deep Blueは1997年に当時の世界チャンピオンに勝利した*。

Deep Blueで採用されたようなモデルでは、「こうなったらこうして、ああなったらああする」といった感じで、予め膨大な時間をかけて定められたルールに基いてコンピューターが駒を動かしている。そのため、これは強力なスーパーコンピューティングとは言えても、人間のように柔軟性がある学習モデルとは言えない。というのも、コンピューター自体が”考えている”わけではないからだ。

機械に学び方を教える

そこで科学者たちは過去10年のあいだに、百科事典のような膨大なメモリに頼らず、人間の脳のようにシンプルでシステマチックにデータを分析するという、古くからあるコンセプトに再び目を向けることにした。ディープラーニングやニューラルネットワークとして知られるこのテクノロジーは、実は1940年代から存在している。しかし、当時は考えられなかったほどの量の画像や動画、音声検索、検索行動といったデータを入手でき、安価なプロセッサが普及した今になって、ようやくその本当の可能性が花開き始めたのだ。

機械と人間は似たようなもの！

人工ニューラルネットワーク（Artificial Neural Network=ANN）は、音声操作からプレイリストのキュレーション、作曲、画像認識まで、全てをコンピューターに学習させることのできるアルゴリズムだ。一般的なANNは何千という数の人工ニューロンから構成されていて、何百万通りにも繋がりあった人工ニューロンが複数のレイヤー（または層）を形成している。また多くの場合、あるレイヤーと別のレイヤーを接続するときには、入力側か出力側にしか接続できないようになっている（人間の脳内にあるニューロンはあらゆる方向に繋がり合うことができるため、両者にはかなりの差がある）。

今日の機械学習では、この多層型のANNが広く利用されており、そこに大量のラベル付きのデータを与えることで、AIがそのデータを人間のように（ときには人間よりも上手く）理解できるようになる。

例えば画像認識においては、畳み込みニューラルネットワーク（Convolutional Neural Network=CNN）というタイプのニューラルネットワークが使われている。数学の畳み込みと呼ばれるプロセスから名前がつけられたCNNは、一部が見づらくなっている物体や一定の角度からしか見えないような物体が含まれている画像も非線形解析することができる（他にも再帰型ニューラルネットワークや順伝播型ニューラルネットワークなど、さまざまなタイプのものが存在するが、これらのニューラルネットワークは私たちが以下の例で取り上げている画像認識には向いていない）。

トレーニングの流れ

それではニューラルネットワークはどのように学習するのだろうか？極めてシンプルかつ効果的な、教師あり学習という手法を見てみよう。この手法では、ニューラルネットワークに人間がラベル付けした大量のトレーニングデータが与えられるため、ニューラルネットワークは自分で答え合わせができるようになっている。

リンゴとオレンジというラベルが付いた画像で構成されたトレーニングデータを思い浮かべてみてほしい。画像がデータ、それぞれの画像に対応している”リンゴ”、”オレンジ”という名前がラベルだ。トレーニングデータを受け取ったニューラルネットワークは、それぞれの画像を細かな要素（エッジ、テクスチャ、形など）に分解し始める。そして画像がネットワーク中を伝播していく中で、それらの要素が組み合わさって抽象的な概念を構築していく。曲線や色に関する情報が合わさって、茎やオレンジ、緑・赤のリンゴという絵が浮かび上がってくるといった具合だ。

このプロセスが終わると、ネットワークは画像に何が写っているかについての予測を立てようとする。そもそもまだ何も学習していないので、最初はこの予測が全くの当てずっぽうのように見えるだろう。そして、入力された画像がリンゴなのに、ネットワークがオレンジと予測したとすれば、ネットワーク内のレイヤーに修正を加えなければならない。

バックプロパゲーション（または誤差逆伝播法）と呼ばれるプロセスを通じて修正が行われると、次に同じ画像が与えられたときに、ネットワークがその画像をリンゴだと判断できるようになる確率が上がる。この作業は予測がほぼ正確になり、改善の余地がなくなったと感じられるくらいまで繰り返される。現実世界で親が子どもにリンゴとオレンジの見分け方を教えるときのように、コンピューターも練習を積めばふたつを見分けられるようになるということだ。もしもこの時点で「あれ、これって機械が何かを学んでるんじゃないかな？」と感じた人がいれば、その人はAIの分野で働けるかもしれない。

レイヤーに次ぐレイヤー

一般的に、畳み込みニューラルネットワークには、入出力用のレイヤーを除いて以下の4つのレイヤーが必ず含まれている。

• 畳み込み層
• アクティベーション層
• プーリング層
• 全結合層

畳み込み層

最初の畳み込み層（複数の畳み込み層が重なっていることもある）では、何千個ものニューロンが第一のフィルターとして機能し、画像内の各ピクセルにスコアを付けながらパターンを見つけようとする。処理された画像の数が増えるにつれて、それぞれのニューロンが画像の特徴的な箇所をフィルタリングするようになり、精度が向上していく。

リンゴを例にとると、あるフィルターは赤い色を探している一方で、別のフィルターは曲がったエッジを探し、さらに別のフィルターが細い棒のような茎を探しているかもしれない。引っ越しやガレージセールのために、散らかった倉庫を片付けたことがある人（もしくは業者に片付け作業をお願いしたことがある人）であれば、モノをまとめて（本、おもちゃ、電子機器、アート、服などへ）分類していく作業についてよく知っていることだろう。畳み込みレイヤーも同じような作業を通じて、画像をピクセルの特徴ごとにバラバラにしていっているのだ。

ニューラルネットワークが有名になった要因のひとつで、これまでのAI手法（Deep Blueなど）とは異なる強力な特徴として挙げられるのが、前述のようなフィルターを人間がつくる必要がないということだ。つまりネットワーク自体が、データを解析しながら処理方法を改善していくのだ。

畳み込み層の役割は、特徴マップと呼ばれる、もともとの画像がフィルターごとに分解されたものを生成することだ。そして特徴マップには、各ニューロンが画像のどの部分で赤い色や茎、曲線といったリンゴを特徴付ける要素を（どんなに部分的であっても）発見したかという情報が含まれている。しかし、畳み込み層はかなり自由に特徴を検知するようになっているため、画像がネットワーク内を伝播していく中で見落としがないか確認するような仕組みが必要になってくる。

アクティベーション層

ニューラルネットワークの利点のひとつは、非線形学習ができることだ。これはどういうことかと言うと、あまりハッキリと表れていない特徴も見つけることができるということだ。つまり、リンゴの木の写真に写った直射日光を受けているリンゴや影に隠れたリンゴ、さらにはキッチンカウンターのボールの中に山積みになったリンゴもニューラルネットワークを使えば認識することができる。これは全て、明らかなものも見つけにくいものも含め、重要な特徴をハイライトするアクティベーション層のおかげなのだ。

先述の片付けの様子を思い浮かべてほしい。今度は分別を終えた山の中から、珍しい本や今となっては皮肉にさえ見えるような学生時代に着ていた懐かしいTシャツなど、やっぱり残しておきたいと感じたお気に入りのモノを抜き出すとしよう。これらの”もしかしたら”というモノを、後で見直せるようにそれぞれの山の上に置いておくというのが、アクティベーション層の役割だ。

プーリング層

画像全体に”畳み込み”を行った結果、かなりのボリュームの情報が生成されるので、すぐに計算が面倒になってしまう。そこでプーリング層を使うことで、膨大な量のデータをもっと処理しやすい形に変換することができる。やり方はさまざまだが、もっとも人気のある手法が”マックスプーリング”だ。マックスプーリングを行うと、畳み込みで生成された特徴マップの要約版のようなものが作られ、赤い色や茎っぽさ、エッジの曲がり具合といった特徴がもっともハッキリと表れている部分だけが残される。

再度片付けの例を引っ張りだし、片付けコンサルタントとして有名な近藤 麻理恵氏の哲学を応用すれば、それぞれの山のお気に入りのモノの中から本当に”ときめく”モノだけを選んで、残りは全て売るか捨てるというのがプーリング層の役割だ。そうすると、本当に大切なものだけがカテゴライズされたままで手元に残ることになる（ちなみに、ニューラルネットワークの中で起きるフィルタリングやコンパクト化の作業の理解を促すための、片付け作業を用いた説明はここで終わりだ）。

ニューラルネットワーク設計者は、残りのレイヤーも同様に畳み込み層・アクティベーション層・プーリング層と積み重ねていくことで、より次元の高い情報だけ残すことができる。リンゴの画像で言えば、最初はほとんど認識できなかったようなエッジや色や茎も、何層にも重なり合ったレイヤーを通過していくうちに、その姿がハッキリと浮かび上がってくる。そして最終的な結果が出る頃に、全結合層が登場する。

全結合層

そろそろ答え合わせの時間だ。全結合層では、コンパクト化された（もしくは”プール”された）特徴マップが、ニューラルネットワークが認識しようとしているモノを表す出力ノード（またはニューロン）に”全て結合”される。もしもネコ、イヌ、ギニアピッグ、スナネズミを見分けることがネットワークのゴールであれば、出力ノードは4つになる。私たちの例で言えば、出力ノードは”リンゴ”と”オレンジ”のふたつだ。

もしも、トレーニングをある程度経て既に予測精度が上がってきたネットワークにリンゴの画像が入力された場合、特徴マップのほとんどにはリンゴの特徴をハッキリと示す情報が含まれているはずだ。ここで最後の出力ノードが逆選挙のような形で、その役目を果たすことになる。

リンゴとオレンジの出力ノードの（”オンザジョブ”で学習した）仕事は、それぞれの果物の特徴を示す特徴マップに”投票”することだ。つまり、ある特徴マップに含まれるリンゴの特徴が多ければ多いほど、その特徴マップに対するリンゴノードの投票数は多くなる。そしてどちらのノードも、それぞれの特徴マップが含んでいる情報に関係なく、全ての特徴マップに対して投票しなければならない。そのため、トレーニングが進んだニューラルネットワーク内では、全ての特徴マップに対するオレンジノードからの投票数が少なくなる。というのも、特徴マップにはオレンジの特徴がほとんど含まれていないからだ。最終的に投票数の1番多いノード（この場合で言えばリンゴノード）が、このネットワークの”回答”となる。実際にはもっと複雑だが、大体このようなプロセスでニューラルネットワークは画像を処理している。

同じネットワークがリンゴとオレンジという別のモノを認識しようとしているため、最終的なアウトプットは、「リンゴ：75％」「オレンジ：25％」といった感じで確率で表示される。もしもトレーニングが不十分でネットワークの精度が低ければ、「リンゴ：20％」「オレンジ：80％」といった結果が表示される可能性もある。

答えが間違っていれば繰り返しあるのみ

初期の段階にあるネットワークでは、不正解が続出するのが普通だ。「リンゴ：20％」「オレンジ：80％」というのは完全な間違いだが、ここではラベル付きのデータを使った教師あり学習を採用しているため、ネットワークはバックプロパゲーションを使い、どこでどのように間違ったかというのを自動的に解析できるようになっている。

冒頭の約束通り数学無しで説明すると、バックプロパゲーションとは、あるレイヤーのノードがひとつ前のレイヤーのノードに対して、自分たちの回答と実際の答えがどのくらいかけ離れていたかを伝える仕組みを指している。後ろのレイヤーからのフィードバックを受け取ったレイヤーは、さらにもうひとつ前のレイヤーに情報を伝え、その後も伝言ゲームのように畳み込み層まで情報が伝わっていく。そして新しい画像がネットワーク内を伝播したときの認識精度が上がるように、それぞれのレイヤーのニューロンに修正が加えられることになる。

その後も、ネットワークがリンゴとオレンジを100％の確率（多くのエンジニアは85％を許容値としているが）で当てられるようになるまで、このプロセスが何度も繰り返される。そしてトレーニングが完了すれば、そのネットワークは晴れてプロとして、リンゴとオレンジを認識する仕事に就くことができる。

*GoogleのAI囲碁プログラムAlphaGoは、ニューラルネットワークを使って盤面を評価しながら最終的に人間の棋士を破ったが、Deep Blueは人間によって記述された指示を基に戦っていたという点で異なる。

［原文へ］

（翻訳：Atsushi Yukutake/ Twitter）

ロッキードマーティンのSkunk Works（skunk worksには「秘密裡のプロジェクト」、「最先端開発プロジェクト」という意味がある）に協力している米空軍は、自律操縦F-16戦闘機の更なる飛行能力のデモンストレーションを行った。開発中の技術を使って、最終的な「無人戦闘航空機」（“Unmanned Combat Air Vehicle” (UCAV) ）の行うことのできることを披露することが狙いだ。

ロッキードのニュースリリースによれば、このデモにおいて、実験機は与えられたミッション情報と計画チームによって与えられた戦力に基き「自律的に空対地攻撃任務を計画して実行」することができただけでなく、ミッションの最中に発生した不測の事態、例えば「機能障害、経路逸脱、そして通信途絶」などにも対応することができた。

このデモンストレーションは、ロッキードと空軍による「有人/無人混成チーム」の可能性探求の一部である。この混成チームではF-35のような先進的航空機に搭乗した人間のパイロットが、一群の自律支援戦闘機を率いて戦闘に向かって、人間のパイロットによる高いレベルでの命令と指揮を行うことが可能になる。

もちろん戦場における自律的な兵器の利用は、明らかに議論すべき対象だ。国連は、AI搭載武器の一律禁止の可能性に向けて動いているように見えるし、明らかに1編のディストピアSFよりも議論の中心となっている。批評家たちは、戦争における自律兵器の使用は、民間人の死亡数を増やし、その死に対する責任の所在を曖昧にすると主張している。支持者たちは基本的にこの反対側の立場から、自律兵器の利用は死傷者の数を減らし、短期でより限定的な紛争にとどまらせると主張している。

人間の戦闘者の指示の下で働く自律戦闘機は、明らかにこの議論の中間の立場を占めているが、倫理的な問題が未解決のままでも、この種のシステムの開発とテストは続いて行くだろう。

[ 原文へ ]
（翻訳：Sako）

FEATURED IMAGE: JACK GUEZ/GETTY IMAGES