【コラム】いずれメタバースは、あなたをモニターし行動を操作する世話役AI「ELF」で埋め尽くされる

メタバースはマーケティング上の誇大広告に過ぎないという人もいれば、社会を一変させると主張する人もいる。私は後者に属するが、多くの人が提唱しているようなアバターで埋め尽くされたアニメの世界について言っているのではない。

むしろ、社会を変えるような真のメタバースは、現実世界上の拡張レイヤーであり、10年以内にショッピングや社交からビジネスや教育まで、あらゆるものに影響を与え、私たちの生活の基盤になると考えている。

関連記事:【コラム】Web3の根拠なき熱狂

また、企業が管理するメタバースは社会にとって危険であり、積極的な規制が必要だと考えている。なぜなら、プラットフォームのプロバイダーは、SNSが古いと感じるようなやり方で消費者の操作が可能になるからだ。多くの人は、データ収集やプライバシーに関する懸念に共感しているが、メタバースで最も危険なテクノロジーであろう人工知能を見落としているのではないか。

実際、メタバースのコアテクノロジーを挙げろといわれれば、たいてい人はアイウェアを中心に、グラフィックエンジンや5G、あるいはブロックチェーンなどを挙げるだろう。しかし、それらは私たちの没入型未来の仕組みに過ぎない。メタバースにおいて糸を操り、私たちの体験を創造(操作)するテクノロジーはAIなのだ。

人工知能は、私たちのバーチャルな未来にとって、注目を集めるヘッドセットと同じくらい重要な存在になるだろう。そしてメタバースの最も危険な部分は、他のユーザーと同じような見た目で、他のユーザーと同じように行動するが、実はAIによって制御された模擬人格である課題志向の人工主体だ。彼らは私たちに「会話的操作」を行い、人工主体が本物の人間でないことに気づかないうちに、広告主に代わって私たちをターゲットにするだろう。

特に、AIアルゴリズムが表情や声の抑揚を読み取って私たちの感情状態を監視しながら、私たちの個人的な興味や信念、習慣や気質に関するデータにアクセスするようになると危険だ。

SNSにおけるターゲット広告が操作的だと思うかもしれないが、これはメタバースで私たちに関わる会話型エージェントの比ではない。彼らは人間のどんな販売員よりも巧みに私たちに売り込み、単にガジェットを売るだけでなく、最も資金を支払った人のために政治的プロパガンダやターゲットとなる誤報を押し付けてくるだろう。

そして、これらのAIエージェントは、メタバースにおける他の人と同じように見え、同じように話すので、広告に対する私たちの自然な懐疑心は働いてくれない。これらの理由から、私たちはAIによる会話エージェントを規制する必要がある。特に、AIが私たちの顔や声の情緒にアクセスでき、私たちの感情をリアルタイムで私たちに対して利用することが可能になる場合だ。

これを規制しないと、AIドリブンのアバターの形をした広告は、あなたが疑っているのを察知して、文章の途中で戦術を変え、あなた個人にインパクトを与える言葉や画像にすばやく照準を合わせてくるだろう。2016年に書いたように、AIが学習して世界最高のチェスプレイヤーや囲碁の棋士に勝てるなら、消費者を揺さぶることを学習して私たちの利益にならないものを買わせる(そして信じさせる)のは朝飯前だ。

しかし、私たちに向かってくるすべてのテクノロジーの中で、メタバースにおいて最も強力かつ精緻な強制力を持つことになるのは、私が「エルフ」と呼ぶものだ。この「デジタル生活促進者(electronic life facilitators、ELF)」は、SiriやAlexaのようなデジタルアシスタントの自然な進化形だが、メタバースでは姿なき声にはならない。消費者ごとにカスタマイズされた擬人化された人格になるだろう。

プラットフォームのプロバイダーは、これらのAIエージェントを仮想ライフのコーチとして販売し、あなたがメタバースを探索している間、1日中しつこく付きまとう。そして、メタバースは最終的に現実世界の拡張レイヤーとなるので、デジタルエルフは、あなたが買い物をしていても、仕事をしていても、ただぶらぶらしているだけでも、どこにいてもあなたと一緒にいることになる。

そして上記のマーケティングエージェントのように、これらのエルフたちは、あなたの顔の表情や声の抑揚、そしてあなたの生活の詳細なデータ履歴にアクセスし、あなたに行動や活動、製品やサービス、さらには政治的見解に至るまでをそっと促すようになる。

そして彼らは、今日のような粗雑なチャットボットではなく、身近な友人、親切なアドバイザー、気遣いのできるセラピストのような、人生において信頼できる人物として認識されるようになるキャラクターとして具現化される。しかも、友人にはできないような方法で自分のことを知り、血圧や呼吸速度に至るまで、自分の生活のあらゆる面を(信頼できるスマートウォッチを通じて)モニタリングする。

そう、これは不気味だ。だからこそプラットフォームのプロバイダーは、付きまとってくる人間サイズのアシスタントというよりも、あなた自身の「人生の冒険」の魔法のキャラクターのように見える、無邪気な特徴と物腰を持つ、かわいくて脅威を感じさせないエルフを作るのだろう。これが私が「エルフ」という言葉を使って表現した理由だ。エルフは、あなたの肩越しにいる妖精、あるいはグレムリンやエイリアンのような見た目かもしれないからだ。こうした小さな擬人化したキャラクターは、耳にささやいてきたり、私たちの前に飛び出して、こちらに注目して欲しい拡張世界のものに注意を引かせたりすることができる。

これが特に危険な点だ。規制がなければ、こうした「人生のお世話役」はお金を払った広告主に乗っ取られ、現在のSNSのどんなものよりも優れた技術と精度であなたをターゲットにすることになるだろう。そして、今日の広告とは異なり、これらの頭の良いエージェントは、かわいい笑顔やくすくすした笑いとともにあなたの周りを付きまとい、一日をガイドすることになるのだ。

このようなことが実際にどのように起こるのか、ポジティブな面もネガティブな面も伝えるために、2030年以降にAIが私たちの没入型ライフをどのように導いていくのかを描いた短いストーリー、「Metaverse 2030」を書いた。

最終的に、VR、AR、AIの技術は、私たちの生活を豊かにし、向上させる可能性がある。しかしこれらが組み合わさると、イノベーションは特に危険なものになる。これはこのような技術に共通する強力な特性、つまりコンピュータで作られたコンテンツがたとえ意図的に作られた捏造であっても、本物であると信じさせることができるという特性が理由だ。この強力なデジタル欺瞞能力こそが私たちがAIを活用したメタバースを恐れるべき理由であり、それが宣伝目的でユーザーにサードパーティアクセスを販売する強力な企業によって管理されている場合には特にそうなのだ。

メタバースの技術に問題が根付いてしまって元に戻せなくなる前に、消費者や産業のリーダーが意義のある規制を推進してくれることを期待して、私はこれらの懸念を提起したいと思う。

編集部注:本稿の執筆者Louis Rosenberg(ルイス・ローゼンバーグ)氏は、仮想現実と拡張現実のパイオニアであり、Unanimous AIのCEO。

画像クレジット:TechCrunch/Bryce Durbin

原文へ

(文:Louis Rosenberg、翻訳:Dragonfly)

投稿者:

TechCrunch Japan

TechCrunchは2005年にシリコンバレーでスタートし、スタートアップ企業の紹介やインターネットの新しいプロダクトのレビュー、そして業界の重要なニュースを扱うテクノロジーメディアとして成長してきました。現在、米国を始め、欧州、アジア地域のテクノロジー業界の話題をカバーしています。そして、米国では2010年9月に世界的なオンラインメディア企業のAOLの傘下となりその運営が続けられています。 日本では2006年6月から翻訳版となるTechCrunch Japanが産声を上げてスタートしています。その後、日本でのオリジナル記事の投稿やイベントなどを開催しています。なお、TechCrunch Japanも2011年4月1日より米国と同様に米AOLの日本法人AOLオンライン・ジャパンにより運営されています。