主要プラットフォームが成長を続けるなか、FacebookやApple、Google、Amazonをはじめとする大手企業は人類全体にまで影響を及ぼすようになった。そしてその影響はポジティブなこともあれば、そうとは言えないときもある。
そのため大手のプラットフォーマーは、ユーザーの行動を把握するだけでなく、どんな場合にユーザー（もしくはプラットフォーマー自身）が不正をはたらいたり、悪意を持ってサービスを操作したりするか、ということを理解しなければならない。同様に、AIのような個別のテクノロジーやそのほかの先進的な技術、そしてそれらの影響についても各企業が責任を負わなければならないのだ。
これこそが、テキサス州オースティンで先週行われたSouth by Southwest（SXSW）に共通するテーマだった。
勢いを増すAI議論
先述の通り、各プラットフォームがこの問題に深く関わっている一方で、テック界のアイコン的存在であるイーロン・マスクは、SXSWのQ&Aセッションのなかで、AIの暴走に対して不安の声を挙げた。彼は、狭義の意味での（そしてあまり賢くない）AIの時代が近いうちに終りを迎え、もっと汎用性の高いAIの時代が訪れると考えているのだ。特にマスクは、強力なAIが発展をとげるうちに、いずれ人間と同じような能力を持った機械が誕生することを懸念している。なお、既に弊誌のJon Shieverが指摘している通り、もちろんマスク自身は自らが構築してきた企業群を、来るべき終末の時への対策として考えているようだ。
SXSWに登壇したイーロン・マスクとJonathan Nolan（Photo: Getty Images/Chris Saucedo）
「狭義の意味でのAIは種の存続を脅かすレベルのものではなく、その影響はスキルの転移や職業の喪失、兵力の増強といった程度――つまり人間の存在を揺るがすような根本的な影響力は狭義のAIにはない。しかしデジタル・スーパー・インテリジェンスについてはそうは言えない」とオーディエンスに向かって語ったマスク。
さらに彼は、人類への影響という点において、未来のAIは核兵器をも上回るかもしれないと述べた。
テック企業の責任
あなたがマスクの意見に賛同するにしろしないにしろ、はたまた彼が自分のビジネスを推進するために虫のいいことを言っていると考えているにしろ、マスクはテクノロジー界のスタートアップ、そして大手起業が共に考えなければならない責任について触れていると言えるのではないだろうか。
少なくとも、CNNのDylan ByersとSXSWのステージに上がったAppleのEddy Cueはそう考えているようだ。彼はインタビューのなかで「テクノロジーは人類の可能性を広げる素晴らしいものだが、それ自体が善というわけではない。つまりテクノロジーを生み出す人たちがその方向性を決めるのだ」と語った。
確かにTwitterの共同創業者たちは、10年以上前に同サービスを作ったときに、そのうちボットが誕生して選挙に影響を与えることになるとは思ってもいなかっただろう。しかし時間の経過とともに、Twitterだけでなく主要プラットフォームすべてに関し、ユーザーはさまざまな動機を持ってサービスを利用しているということが明らかになった。そして各プラットフォーマーは、一部のユーザーが他の人たちを操作するためにサービスを使っていることがわかった時点で、何かしらの対策をとらなくならなければいけなくなったのだ。
SXSWの壇上で話すAppleのEddy Cue（Photo: Ron Miller）
ByersがApple以外の企業について何度も質問したにもかかわらず、CueはFacebookやGoogleといった企業の内情については知らないため、彼自身はAppleについてしか話すことができないとその質問をかわした（Cueは具体的な競合の名前さえ挙げなかった）。「Appleはあなた（Byers）が挙げたような企業とは違う。私たちは顧客のプライバシーを最重要事項として考えている」（Cue）。また彼は、Appleは広告企業ではないため、収集するデータの量もプラットフォーマーより少なく、「ユーザーの購買行動には興味がない」とさえ語った。
「フェイクニュース」対策としてのAI活用の課題に関するパネルディスカッション中には、Facebookのグローバル・ポリシー・ディベロップメント・チームのAndy O’Connellが、不正な操作が行われているとわかったときに、Facebookは何らかのアクションをとる責務を負っていると述べた。さらに、「フェイクニュースは社会全体の問題である一方で、私たちはテクノロジーの力を使って（その影響を抑える）対策を練っているほか、投資によって改善できる部分もある」と語ったO’Connel。彼によれば、Facebookの共同創業者・CEOマーク・ザッカーバーグは、プラットフォームの安全性を高める上でフェイクニュースの拡散が課題になっており、Facebookに流れ込む虚偽もしくは誤解を招くようなニュースの数を減らしていかなければならないと考えているようだ。
テクノロジーの限界
O’Connellの指摘通り、フェイクニュースはFacebookやテクノロジーの力だけでどうにかできるものではない。これは社会問題であり、社会全体が問題解決にあたらなければいけないのだ。もちろんテクノロジーがその助けになることもあるが、すべての問題についてテクノロジー頼みというわけにもいかない。ここで難しいのは、あるテクノロジーが誕生した時点では、それがどのような行動をとるかや、人がどのようにそのテクノロジーを使うかといったことを予測できないということだ。
（Photo: Ron Miller）
結局のところ、この記事で触れたような問題（なかには問題になるとさえ思われなかったものさえある）の解決は一筋縄ではいかない。どんなに善意を持って問題の解決にあたったとしても、すべてのアクションやその反応によって、さらに予想だにしない結果が生まれる可能性さえある。
しかし、あるテクノロジーがもたらす膨大な経済的利益や社会への影響に見合った責任を受け入れられるかどうかは、そのテクノロジーを生み出した企業にかかっている。この点についてCueは、「全員に（あるところで境界線をひく）責任がある。これこそAppleが行っていることであり、私たちがAppleという企業を運営する上で大切にしていることだ。今日の世界では誰もが責任を負わなければならず、私たちもそうしようとしている」と語った。
そうはいっても言うは易し行うは難し。暴走を止めるには十分な思慮や緻密さ、対応力が必要であり、ひとつひとつの決断がもたらす影響についても吟味しなければならない。
［原文へ］
（翻訳：Atsushi Yukutake）
