タグ: 機械学習

馬車が走る道に初めて自動車が登場したとき、馬はその技術の最初の犠牲者となった。ゆっくり走る自動車に襲われたわけではなく、驚いて逃げてしまったわけでもない。むしろ馬は、怪我に悩まされた。また、怯えた馬が通り道にあるものすべてを踏み荒らし、物や歩行者に損害や傷害を与えることもあった。

自動車がもっと速く走れるようになり台数も増えると、歩行者が走る自動車の直接の犠牲者になった。間もなく、交通規則、および製造物責任法と不法行為責任法が作られ、大虐殺を避けるための秩序がもたらされた。それでも、いまだに注意散漫で運転技術が未熟なドライバーは増加する一方であり、彼らが混雑した高速道路を、現実版のまったく笑えない「フロッガー」の舞台に変えている。

自律走行車に乗れば、ドライブのあらゆる恩恵がドライブせずに得られるようになる。自動運転を支持する人たちは、自律走行技術によって自動車はより安全になり、2050年までに事故発生頻度を90パーセント以上削減できると信じている。自動車事故の90パーセント以上が、ドライバーの運転ミスによるものだからだ。

たしかに、飲酒運転や不注意、その他のドライバーの行動に起因する死傷事故のニュースは後を絶たない。自律走行車なら、友だちにメッセージを送ったり、『ブラック・ミラー』を一気見したりしていてもオーケーだ。でも、本当にそうだろうか？それは、目の前に立っている歩行者は実際にはそこにいないと自律走行車が誤認しない限りにおいてのことだ。または、ゴミ収集トラックが引きずっているゴミを車線のラインと見間違えて、車ごとコンクリートブロックに突っ込まない限りにおいてだ。

他社に先んじて、完全な自動運転の実現を目の前にしている企業もあるが、運転環境での極限状況は改善されないままだ。つい最近も、アリゾナの暗い国道を自転車を押して渡ろうとしていた女性が自律走行車に跳ねられるという悲惨な事故があったばかりだ。車にはドライバーが乗っていて、事故にならないよう対処できたはずなのに、それをしなかった。積極的に奨励しないまでも、ドライバーが運転を手放せるようにすることが自律運転技術の本来の意義であるため、その車に乗っていた人の不注意を責めることはできない。

ほとんど必要とされないためドライバーが運転できなくなってしまうから「自律走行車のパラドックス」は危険だ。少なくとも当面の間、自律走行システムの信頼度が人間のドライバーとほぼ同じ98パーセントの安全率を上回るようになるまでは、緊急時や予想外の状況での人間のドライバーの補完を必要とするだろう。

この移行時期の間、そしてこの時期を過ぎてからも、事故の際に何が起きるのか、また誰がその責任を取るのか？自律運転技術が現れる前は、自動車事故は、ドライバーの過失とメーカーの製造者責任という2つ法理論のうちのいずれかが適用された。過失の法理論は、ドライバーの行動に責任を負わせ、ドライバーから、一般的には保険会社からだが、ハンドルを握っていた本人の行動に対する金銭的賠償を引き出そうとするものだ。製造者責任の法理論はその反対で、怪我の原因になったエアーバッグやイグニションスイッチやタイヤや、さらには自動車そのものなど、欠陥のある製品を製造し販売した企業に向けられるものだ。自律走行車の事故に現在の法理論を適用しようとすれば、数多くの問題が発生する。

人工知能（AI）、あるいは自動車を自律走行させるものなら何でも構わないのだが、それがカーブの路面が滑りやすくなっていることを検知または、それに応じて運転を補正できなかったとする。前を走る車から漏れた不凍液が路面を濡らしたようで、ハンドルを握る人間には認知できたものの、AIシステムにはほとんど見えなかった。もし、自律走行車に手動運転が優先される機能があり、それで事故が起きたなら、衝突を防ぐ操作をしなかったドライバーの責任が問われるのか？道路状況を検知したり、それに対処しなかった自動車のメーカーが責任を問われるのか？両方だとしたら、責任の割合はどうすべきか？

もし、通常の自動車だった場合、ドライバーに対する訴訟は、その人の行動が適切な注意義務基準に達していなかったことを証明できるかどうかにかかってくる。ハンドルから手を放していたなら、通常の自動車では過失行動とされることが多い。スマートフォンでメッセージを送っていて注意散漫になっていた場合もおそらく同じだ。しかし、自律走行車の自動運転機能は、本来の性質上、ドライバーが運転に注意を払わなくても、また運転に関わる必要性をなくすためのものだ。となれば、上記のような状況で、私たちは運転を引き継がなかったドライバーの責任を追及できるのだろうか？

従来型の自動車のメーカーも、法的責任はシステムや部品に欠陥がなかったかにかかってくる。状態のいい従来型の自動車で、サスペンションにもブレーキにもハンドルにも欠陥がなければ、上記のシナリオでも、メーカーが責任を問われることはまずないだろう。一方、人間の運転が優先される自律走行車のメーカーは、少なくとも責任の一部をドライバーに負わせようと試みる知れないが、そんなことを社会が許すだろうか？許すべきだろうか？ドライバーは、合理的な範囲で自律走行者に依存していたと主張するだろう。しかし、ドライバーの目には危険が目に見えていて、事故を防ぐための介入ができにも関わらず、メーカーが責任を負うべきなのだろうか？

その車が完全に自動化されていて、人間の介入が不可能であった場合は、結果は違ってくる。しかし、そんな車が現れるのは何年も先のことだ。

そうした自律走行者が市場に登場したとき、予期せず遭遇した滑りやすい路面を検知またはそれに対する補正に失敗したときは「欠陥車」とされるのか？または「欠陥車」と見なすべきなのか？もしそうなら、単に故障が発生したから欠陥車とされるのか、それとも、AIソフトウエアにエラーがあることを誰かが証明して見せなければならないのか？AIアルゴリズムは自身で進化することができ、膨大な距離と時間を費やして得たトレーニングデータに依存していることを考えると、どうしたらソフトウエアの中の「欠陥」を証明できるのだろうか？事故を起こした時点のアルゴリズムがオリジナルから大きくかけ離れていた場合、そしてその変化がAIアルゴリズムが自分で「教育」した結果であった場合、そのプログラマーやソフトウエアの提供業者に責任を負わせることが公正なのだろうか？

もうひとつの問題は「集団意識」だ。AIが学習する方法のひとつに、接続された他の複数のAIの集団的な体験を利用するものがある。これは、一時期Teslaが使用していた方法だ。もし、他のAIの誤ったデータがアップロードされ、それが事故に大きく関わっていたとしたら、どうだろう？

こうした問題の観点からすると、そして技術がますます人間の関与を減らす方向で発達すれば製造者責任の法理論を強化するよう法律も変化することになるだろう。おそらく、製造者責任は過失よりも厳しくなる。将来の自律走行車の価格が、研究開発と部品のコストだけでなく、事故のコストをカバーする「保険」を含めて決められるようになるとしても、突飛な話ではない。こうした進化は、人間のドライバーの役割が減るのに合わせて起こっていくだろう。しかし、自動車メーカーのAIシステムの学習プロセスを完全にコントロールする能力や、ましてや運転環境が同時に進化することはないだろう。

少なくとも、ある程度の人間の介在を必要とする移行期においては、責任に関する自動車メーカーの意見は分かれる。ボルボなどの一部のメーカーは、自動運転モードの最中に発生した事故に関しては全責任を負うと宣言している。しかし、テスラを始めとする他のメーカーは、ドライバーが若干の関与を要求される状況で発生した事故においては、たとえ自動運転モードであっても、ドライバーに責任を負わせようとしている。

例えば、かつてテスラでは、自律走行モードで他の車を追い越す機能を有効にするには、方向指示器を点灯させなければならなかった（テスラの新型車ではこの操作が不要になった）。ドライバーにこの操作を行わせる仕組みは、一見、大したことではないように感じられるが、そこには自動車メーカーが法的責任をドライバーに転嫁する意図がある。簡単な操作だが、車に追い越しを指示するだけでなく、その追い越しは安全に行えるという自らの判断によるものであり、その結果の如何に関わらず責任を負う、または負わなければいけないと、ドライバーに示唆するものでもある。

その基礎となる技術は、責任の所在を追求しようとすれば、さらなる複雑性を突きつけてくる。これまで暗に示してきたように、「機械学習」として特徴付けられるAIの側面は、無数の多様な入力データをもとに開発されていて、その振る舞いは多かれ少なかれ「ブラックボックス」化されている。厳格な数学的アルゴリズムと思われるため、本当に理解することは難しい。

言い換えるなら、私たちには、機械がどのように判断をしてその行動をとったのかを正確に知る手立てがないのかも知れないということだ。その場合、AIボックスが間違ったトレーニングを受けた、または現実の運転ではなくシミュレーター上で「訓練」されていたとしたら、AIボックスが極限的状況での対処を誤って事故につながった責任は、シミュレーターの開発者に負わされることにならないか？

AIのプログラミングやトレーニングの倫理の問題はどうだろう。最近の研究で、歩行者が有色人種だった場合、現在のAIシステムが彼らを認識できる能力は20パーセント低下することがわかった。これは、AIのトレーニングが多様性を踏まえていなかったためだ。他に説明があるだろうか？MITによる最近の調査では、衝突が避けられない極限状況において人の命を犠牲にするかどうかではなく、どの人の命を犠牲にするかの選択を迫られたとき、人は救うべき命をその上下関係で決めていることがわかった。この調査に参加した人たちは、動物よりも人の命を優先させるべきだと話している。少数の命よりも、大勢の命を救うべきであり、老人を犠牲にして若者を救うべきだと考えている。

興味深いことに、ベビーカーを押して交通法規を守って歩いている人を尊重するべきだとも考えられている。結論として、こうした倫理感に基づいて自律走行車がプログラムされた場合、交通の激しい道路をひとりで乱横断している人は自律走行者に跳ねられる確率が格段に高くなるということだ。この調査の道徳的序列では、猫、犬、犯罪者が保護対象としての最下層に位置する。だが、その人が犯罪者かそうでないかを車が判断できるのだろうか？刑務所の情報をリアルタイムで入手するのか？また、動物愛護活動家のハッカーが車のプログラムを、人より動物を尊重するように書き換えてしまったらどうなるのだろう？

MITのこの調査が信頼できるとすれば、こうした序列の意識や変動性が現に存在していることになる。それは、人間の潜在意識にしまい込まれているだけだ。機械の中ではない。次に道路を渡るとき、このことを考えてみてほしい。

【編集部注】
著者のLucas Dahlinは、Goodwin知的財産グループのアソシエート。複雑な知的財産問題を専門に取り扱い、特許と企業秘密に関する訴訟に豊富な経験を持つ。

Julius Jeffersonは、Goodwin知的財産訴訟グループのアソシエート。Goodwinに加わる以前は、デラウェア地区とテキサス西地区で判事の書記を務めていた。ロースクールに入学する以前は、Wyeth Pharmaceuticals（現Pfizer）の研究フェローとしてアルツハイマー病の治療法を研究していた。

Darryl M. Wooは、Goodwin知的財産訴訟グループの共同経営者。以前は法廷弁護士として特許訴訟やその他の複雑な技術関係の訴訟を専門に扱っていた。

[原文へ]
（翻訳：金井哲夫）

1900年代初頭の社会は、馬車から自動車への移行に苦心していた。今日ではおかしなことに思えるかもしれないが、「通行の優先権」や速度制限、交通標識や信号などの概念がなかった時代があったのだ。こうした規則は、車が馬車に出合ったとき、馬を驚かせて暴走させたり、辛うじて「道路」と呼べるような砂利道をお互いに逸れて、馬の助けを借りなければ抜け出せなくなるような事態を避けるために、考え出されなければならなかった。

100年ほど早送りしてみよう。Quo Vadisはラテン語で「汝はいずこへ」という意味。これは、現代の自動車によって可能になった、どこにでも自由に行ける生活様式を表すのにふさわしいフレーズだろう。行きたいときに、行きたいところへ、行きたい人といっしょに行ける。フォレストガンプに触発された田舎道のドライブに、化石燃料車で出かけたり、深夜に軽く空腹を満たすために、EVで町中を流す。まったくモバイルな社会になったものだ。

しかし、注意散漫だったり、運転が下手なドライバーで溢れた通りや高速道路は、「オートピア」を「ディスオートピア」に変えてしまった。人工知能によって可能になるはずの、すばらしい自動運転車の世界を想像してみよう。自分で運転することなく、運転によるすべての恩恵が受けられるのだ。車は、自分の行き先に自分自身で完璧にガイドし、渋滞を緩和し、交通量を増加させ、道路の利用率を最適化する。さらにすばらしいのは、あなたがラテをすすりながらTEDトークを観てリラックスしていても、車は勝手に目的地に向かってくれる。

いや、そうじゃない。現在の技術水準では、さまざまな運転状況に対して、せいぜい高いパーセンテージで対応できる、というくらいであって、例外なく、というわけにはいかない。きわどい状況など、５〜10パーセントのケースでは、まだ人間の介入が必要となる。たとえば、道路にできた穴を緊急に補修している作業員に出くわしたとき、どうしたらよいのかわからない、といったケースは、まだかわいいものだろう。もっとマキャヴェリズム的な例を挙げれば、全方向が一時停止の交差点で、停止中の自動運転車に、人間が運転する車が90度の方向から向かってきた場合が考えられる。AI自動車は乗員を危険にさらさない、ということを知っていて、人間の運転者は前後の車との車間距離を保ったまま徐行して近づき、うまくAI車の動きを止めさせて、人間が運転する車の列がゆっくり途切れることなく永久に通り続ける、ということも、ラッシュアワーには起こり得る。

いずれの場合でも、人間（あるいは遠隔の操縦者）なら簡単に運転を引き継ぎ、交通整理の手信号に従うか、人間の運転する車を牽制することで、交差点を通過できるだろう。しかし、高速道路上で人間による介入が必要になった場合はどうだろう。たとえば、先に通ったトラックが落とした土砂が、車線を区切る白線を覆い隠してしまったら？　自動運転車は、コンクリートの壁に向かってハンドルを切り始めてしまうかもしれない。その場合、人間の運転者が、即座に運転を代わることが唯一の望みとなる。もしその頼りの人間がビデオを見ていたとしたら、顔を上げたときには、金属やガラスの破片の嵐の中、すべてが暗転することに…

大きな懸念は、現在の特許関連の法律ではAIシステムを保護するのに不十分であるということ

人工知能、というのは人間のように思考することを暗示する魅惑的な言葉だ。よくある映画のキャラクタのように、まるで人間のように話し、やりとりすることができるものと思われがちだ。しかしAIは、もう少し正確に言えば「機械学習」のこと。今日の機械学習は、世界と対話し、矯正のための入力を受け取ることによって、人間の知性を再現しようとしている。子供を褒めたり叱ったりすることによって、良いことと悪い事の区別を教えるのとほとんど同じように、今日のAIの機械学習は、似たような二者択一の矯正によるものとなっている。掲示されている30ではなく、35mphで走行すれば、それが誤った行動であるというフィードバックがあり、それを処理することで、AIはMapleストリートを30mphを超える速度で走ってはいけない、ということを「知る」。また、今はラッシュアワーだから、Mapleは西向きの一方通行になり、西に進む場合には全３車線のどこを通ってもいいということを知ることもできる。

何千ではないにしても、すでに何百というテスト車両が、人間が運転する車やトラックと道路を共有している。そうして何百万マイルも走行することで、経験豊かなドライバーと同じような、少なくともそれにできるだけ近い知識が得られるように学習する。そうすれば、道路工事の交通整理に従ったり、車間を詰めて運転するドライバーに対処したりできるほどの信頼を勝ち取ることができる。特許に記載されている技術の場合、新規参入者が追いつくことが可能だ（もちろん、特許使用料を払うか、その特許を回避する設計ができればの話だが）。今日の機械学習には時間と経験が避けられない。それとも、それをバイパスすることができるのだろうか？

大きな懸念は、現在の特許関連の法律では、AIシステムを保護するのに不十分であるということたとえば、機械学習のトレーニングセットや、プログラマが書いたソースコードの特定の表現など、データの編集結果を、特許で保護することはできない。さらに、機械学習プロセスと、その基礎となるアルゴリズムの反復的で漸進的な進化を考えると、特許の認可に必要とされるほど正確かつ細密に、AIシステムの手法と機能を記述すること自体、困難なものになり得る。

そして、誰による発明か、ということも問題になる。AIの自己学習プロセスが意味するのは、発明の主体がAI自身によって自律的に開発される可能性があるということ。もし、その結果に特許性があるとしても、HALを発明者として挙げるべきなのだろうか？　これは法律だけでは解決できない領域であり、議会による決議を必要とする問題だろう。現実的な問題もある。この分野は急速に進化しているので、出願から取得までの手続きに何年もかかる特許では、最終的に認可されたとしても、それが有効となる前に無用のものとなったり、時代遅れになったりしかねないということだ。

こうした懸念もあるので、ほとんどの自動運転車（およびAI）の開発者は、知的財産を保護するために企業秘密保護法に頼っている。しかし、これはこの分野に新たに参入しようとする企業にとって、重大な技術的ハードルとなっている。もし、AI開発者が自らの技術を特許化していれば、必要となる情報は公開されていることになるが、そうでなければ、競合他社は基本的にゼロから始める必要がある。これは非常に不利な状況だ。もし市場に参入する競合が少なければ、消費者の選択肢もそれだけ少なくなるのは間違いない。

企業秘密保護に頼る開発には、数え切れないほどの難点がある。中でも深刻なのは、競合他社が熟練した従業員を引き抜き、学習済のデータも不正に入手しようとすることだ。それによって何百万マイルも必要な学習プロセスをバイパスすることができる。保護を徹底し、このような不正行為にも対処できるようにするためには、企業秘密を厳重に管理しておく必要がある。その結果、「知る必要がある」人だけが限定的に情報を扱えるような、厄介なセキュリティ対策が不可欠となる。

こうした状況は、馬が車を引いていた時代からの移行を容易にするために、道路、標識、信号機などの規則を開発しなければならなかったことを思い起こさせる。それと同じように、現在の知的財産保護の概念は、自動走行車への移行を可能にするための新たなコンセプトの創出までは必要ないとしても、少なくとも進化させる必要があるだろう。もう少し見守ってみよう。そして魅力的なドライブに備えて、シートベルトの着用をお忘れなく。

画像クレジット：mato181／Shutterstock

[原文へ]

（翻訳：Fumihiko Shibata）