【コラム】メタバースで優先されるべき課題は「責任あるAI」

最近のBloomberg Intelligence(ブルームバーグ・インテリジェンス)の調査によると、メタバースには8000億ドル(約92兆円)の市場規模があるそうだ。実際にメタバースとは何なのか、ということについては、多くの人が議論しているところではあるが、これだけの金と好奇心に取り巻かれているものだから、誰もが話題にしたがるのも当然だろう。

メタバースではAIが、特に私たちが他者とコミュニケーションを取る際に、重要な役割を果たすことは間違いない。私たちはこれまで以上に他者とつながりを持つようになるだろうが、政府や規範、倫理規定に縛られないAIは、邪悪な影響をもたらす可能性がある。元Google(グーグル)CEOのEric Schmidt(エリック・シュミット)氏が最近問いかけたように「誰がルールを決めるのか?」ということだ。

AIの影響を理解する

AIアルゴリズムは、偏向のある人間によって作られるため、作成者の思考パターンや偏見に従うように作られることがあり、しかも、それが増殖していくことがある。AIが性差別を生み出す、例えば、女性よりも男性に大きなクレジットカードの限度額が与えられたり特定の民族がより不当な差別を受ける傾向にあることは、我々がこれまで見てきたとおりだ。より公平な、繁栄するメタバースを作るためには、偏向を生み出し、それを永続させるダークなAIのパターンに対処する必要がある。しかし、誰がそれを決定するのだろう? そして、人間はどうやって偏向を回避できるのだろうか?

この「野放しのAI」を緩和するための解決策は、すべての組織で倫理基準を策定することだ。私たちの見解では、ダークAIのパターンは侵略的になる可能性が高い。ほとんどのAIは倫理的な監視なしに開発されているが、メタバースではこれを変えなければならない。

AIをメタバースにおけるメッセージの翻訳に活用する

私は、1人の熱心な語学学習者として、また、AIと人間を使って人々をグローバルにつなぐ会社の創設者として、誰もが複数の言語を話すスーパーポリグロットになれるという可能性に胸を踊らせている。だが、さらに興味があるのは、そのAIがどのように機能するかを理解することだ。

メタバースでは、多くのユーザーが各々の言語でコミュニケーションすることになるだろうが、AIによる言語翻訳が利用できる可能性もある。しかし、AIを使った言語テクノロジーは、我々が注意しなければ、偏向を永続させてしまうおそれがある。その言語AIが、倫理的であるようにきちんと訓練されていることも、確認する必要がある。

例えば、ジョーのアバターがミゲルのアバターと話したがっているが、ジョーとミゲルは同じ言語を話さないという状況を想像してみよう。AIは彼らのメッセージをどのように翻訳するのだろうか? そのまま言葉を直訳するのだろうか? それとも、文字通りに訳すのではなく、メッセージを受け取った人が理解できるように、その人の意図に沿った翻訳をするのだろうか?

人間と機械の境界線を曖昧にする

メタバースでは、いかに私たちが「人間的」かということが重要になるだろう。企業は言語テクノロジーを使って、会話を異なる言語にすばやく翻訳することで、オンラインコミュニティ、信頼、インクルージョンの創出に役立つことができる。

しかし、私たちが選ぶ言葉に気をつけなければ、テクノロジーは偏見を生み、不作法な行動を許すことにもなりかねない。どのようにかって?あなたは3歳児がAlexa(アレクサ)に話しかけているのを聞いたことがあるだろうか?それはとても「感じが良い」とは言えない。人は、自分がやり取りしている相手が本物の人間ではなくテクノロジーであるとわかると、礼儀正しくする必要を感じなくなる。だから顧客は、チャットボットやAmazon(アマゾン)のAlexa、電話の自動応答などに対して失礼な態度を取るのだ。それはさらにエスカレートしてしまう可能性がある。理想とする世界は、言語のためのAIが、人間を正確に表現するために必要なニュアンスや共感を捉えるようになり、それによってメタバースが人間とテクノロジーがともに栄える場所となることだ。

メタバースの非人間的なAIは、ネガティブにもなりかねない。適切な言語は、リアルで感情的なつながりと理解を生み出すことができる。AIを活用した言語運用によって、適切なメッセージはブランドを人間的に感じさせるために役立つ。ブランドが瞬時に多言語でコミュニケーションできるようにするための技術は、極めて重要なものになるだろう。顧客の信頼は母国語によって築かれると、私たちは考えている。しかし、ボーダーレスでバーチャルな社会は、どうやって母国語を持つことができるだろうか? そして、そんな環境は、どうやって信頼を生み出すことができるのだろうか?

先述したとおり、メタバースは企業にとって、バーチャルな世界で露出を増やすことができる大きな可能性を秘めている。人々はすでにバーチャル・ファッションにかなりの大金を投じるようになっており、この傾向は間違いなく続くだろう。ブランドは、実際に会って交流するよりも本物らしい、あるいはそれ以上に魅力を感じられるような、オンライン体験を作り出す方法を見つける必要がある。これは越えるのが大変な高いハードルだ。スマートな言語コミュニケーションは、そのために欠かせないものとなるだろう。

メタバースが最終的にどのようなものになるかは、誰にもわからない。しかし、AIがある集団に他より過度な影響を与えたり、AIが自社製品の人間性を失わせた、なんてことで記憶される企業には誰もなりたくないはずだ。AIは良い意味でパターンを予測する能力がどんどん向上するだろう。しかし、野放しにしておくと、AIはメタバースにおける私たちの「生き方」に深刻な影響を与える可能性がある。だからこそ、責任あるAI、倫理的なAIのための倫理が必要なのだ。

AIが、言語やチャットボット、あるいはブランドの仮想現実に多用されていくと、それによって顧客が信頼や人間らしさの感情を失う機会も増えるのだ。私たちがメタバースで平和に「生きる」ことができるように、AIの研究者や専門家が企業と協力して、責任あるAIの枠組みに解決を見出すことが求められている。

編集部注:本稿を執筆者Vasco Pedro(ヴァスコ・ペドロ)氏はAIを利用して人間が編集を行う翻訳プラットフォーム「Unbabel(アンバベル)」のCEO。

画像クレジット:japatino / Getty Images

原文へ

(文:Vasco Pedro、翻訳:Hirokazu Kusakabe)

TikTokはホロコーストに関する誤情報に立ち向かっているが、反ユダヤ主義は根強い

国際ホロコースト記念日の1月27日、TikTokは歴史的な大惨事と現在も続いている反ユダヤ主義の脅威についてユーザーを教育するためのポータルをDiscover(ディスカバー)ページに開設した。TikTokは、2021年も同様のポータルを設けている。

TikTokのモバイルアプリにあるDiscoverページに移動すると、国際ホロコースト記念日を示すクリック可能なバナーが表示される。このバナーは、ユダヤ人クリエイターによる3つの教育的なTikTokが集められたページに誘導する。クリエイターには、ひ孫の助けを借りてTikTokを制作した98歳のホロコースト(ナチスによるユダヤ人大虐殺)生存者が含まれる。さらに今後は、ユーザーがTikTokで「ホロコースト」や「ホロコースト生存者」などの言葉を検索すると「憎悪や誤った情報の拡散を防ぐために、信頼できる情報源を参照する」よう促すバナーが表示され、ホロコーストに関する多言語ウェブサイトへと誘導される。数カ月以内に、TikTokはホロコーストに関する動画に同様の告知を常設バナーとして追加する予定だ。TikTokは、2020年から連携しているユネスコ(国連教育科学文化機関)および世界ユダヤ人会議と協力して、こうした変更を行った。

この取り組みは、ホロコーストは起こらなかったという誤った陰謀論であるホロコースト否定に直接対処している。しかし、ユダヤ人のTikTokユーザーの中には、プラットフォーム上の反ユダヤ主義は、ホロコーストのコンテンツに関するいくつかのポップアップでは解決できない、より大きく複雑な問題だと考える人もいる。

@livschreiber

Let’s see if this gets taken down. #jewishtok #tiktokantisemitism #antisemites #greenscreenvideo

♬ Monkeys Spinning Monkeys – Kevin MacLeod & Kevin The Monkey

7万4000人のフォロワーを持つスタイリストのLiv Schreiber(リヴ・シュライバー)氏は、2021年11月にユダヤ人デートアプリ「The Lox Club」と提携して広告を出した。その1週間後、同氏は動画を投稿してから毎日、反ユダヤ的なコメントが波のように寄せられていることを紹介する動画を投稿している。

「なぜ反ユダヤ主義が許されるのか理解できません」とシュライバー氏は動画の中で語っている。「なぜ削除されないのか理解できません。TikTok、これは譲れません」。

TikTokでの反ユダヤ主義に関する会話は2021年4月に、ユーザーが鼻などを細長くするフィルターを使いながら、ユダヤ教徒の暮らしを描いたミュージカル「屋根の上のバイオリン弾き」の「If I Were a Rich Man」を歌うというトレンドが流行したときに急増した。こうした動きは、TikTokを利用するユダヤ人にとって、ユダヤ人の鼻を誇張した風刺画やその他の有害な反ユダヤ的イメージなど、これまでの固定概念を呼び起こすものだった。

そうしたトレンドがプラットフォームに浸透する中、TikTokは2021年5月のJewish Heritage Month(ユダヤ人遺産月間)を記念するために作成した「#MyJewishHeritage」というタグを通じて、ユダヤ人クリエイターにポジティブな光を当てようと試みた。TikTokはDiscoverページでユダヤ教に関するいくつかの投稿を取り上げたが、自分のコンテンツが宣伝されたクリエイターはTikTokから何の警告も受けなかった。その結果、一部のユダヤ系クリエイターには、突然、反ユダヤ主義的なコメントが殺到した。

TikTokは、2022年の国際ホロコースト記念日ポータルに掲載されたクリエイターには報酬が支払われたと述べている。

@ezzy4prezzy

Reply to @hehehehhehe2

♬ original sound – Ezra811

「TikTokの反ユダヤ主義に関する問題は、あらゆる方面から嫌がらせを受ける羽目になることです」と、3万7000人以上のフォロワーを持ち、政治的な主張を行うTikTokユーザーのEzraはTechCrunchに語った。「極右のアカウント、荒らし者のアカウント、よくわかっておらず意図せず反ユダヤ主義のアカウント、ユダヤ人とイスラエル人を区別できない左翼のアカウントなどがあります。ですので、反ユダヤ主義の取り締まりは、多方面にわたる問題なのです」。

TikTokはプラットフォーム上の反ユダヤ主義を公に非難しているが、新しいポータルの立ち上げのような一般向けの連帯のジェスチャーは、プラットフォーム上で嫌がらせを経験したユーザーにとっては空しく響くかもしれない。また、TikTokがこの取り組みにどれくらいの時間を費やしたかも不明だ。というのも、TechCrunchがホロコースト記念日ポータルに最初にアクセスしたとき(米国東部時間午前3時のリリースから数時間後)、反ユダヤ主義的事案を名誉毀損防止同盟に報告するリンクが機能しなかったからだ。数時間後、この問題は修正されたようだ。TikTokは、リンクが機能しないままポータルを公開した理由についての問い合わせにはまだ回答していない。

TikTokで反ユダヤ主義について投稿している大学院生のStephanie Gurewitz(ステファニー・グレヴィッツ、@shachar.mg)氏は、国際ホロコースト記念日のポータルがユダヤ人に対するホロコーストの影響しか扱っていないことに驚いた。別の記念日であるYom HaShoah(ヨム・ハショア)は、ホロコーストでの600万人のユダヤ人の死を追悼する日だ。しかし、ナチスは障害者、同性愛者、ロマ民族など、社会から疎外された人々も迫害していた

グレヴィッツ氏はTechCrunchに対し「この日は、ユダヤ人のための特別な追悼の日ではなく、国際ホロコースト記念日です」と話した。「今日はホロコーストのすべての犠牲者を悼む日であり、ロマ民族については何も触れられていません。そこに欠けているものがあり、それが問題なのです」。

ユダヤ人クリエイターらは、今日も自分たちの動画に反ユダヤ的なコメントが寄せられていることに触れている。

「TikTokには偏見を持ってやってくる人がいて、それを止めるにはバナーだけでは不十分だと思う」と彼らは語った。

@shachar.mg

Ways that #antisemitism spreads undetected on TikTok #tiktokantisemitism #tiktokalgorithm #jewishtiktok Thank you @criticallens for the screenshots!

♬ Monkeys Spinning Monkeys – Kevin MacLeod & Kevin The Monkey

月間アクティブユーザー10億人のプラットフォームで、コンテンツのモデレーションを行うのは容易なことではない。しかし、ユーザーは往々にして普通のユーザに明白な手段で検知メカニズムを回避している。例えば、セクシュアリティについて話す場合でも、ガイドライン違反のフラグを立てられないように「s3xuality」と書くこともあるだろう(アダルトコンテンツは違反だが、例えば同性愛について話すのは違反ではない)。これと同じ手口は、悪意のあるユーザーが反ユダヤ的なメッセージを送るために度々使っており、TikTokはこれを検出することができない。

「私は、TikTokや他のソーシャルメディアプラットフォームが、重要な原因に注意を集めるためにできることをすることについては、本当にすべて賛成です。あの(ホロコースト記念日)ポータルを見ると、彼らが社内でそれについて行ったすべての会議のことを思い、そのことを私は感謝しています」とシュライバー氏はTechCrunchに語った。

画像クレジット:Nur Photo / Getty Images

原文へ

(文:Amanda Silberling、翻訳:Nariko Mizoguchi

なぜ女性ファウンダーは資金獲得に苦労しているのか?

2021年、女性のみの設立チームが獲得下ベンチャーキャピタル資金は全体の2%以下で、最近5年間の最低だったとPitchBook(ピッチブック)の最新データが示した。2021年に女性のみの設立チームが獲得した絶対的金額は前年より83%多かったが、これは米国のスタートアップ全体がこの年に記録的金額を集めたからである可能性は高い。

しかし、その高まった潮はすべての船を持ち上げたわけではない。女性のみの設立チームが獲得した資金のシェアは2年連続で減少したことをPitchBookは示している。

では、一体なぜ、近年のスタートアップへの出資ブームにも関わらず、ベンチャーキャピタル業界は、女性が資金調達するのが困難な場所になっているのだろうか。

先週、ベンチャー投資家のDel Johnson(デル・ジョンソン)氏は、近年、ベンチャーキャピタル業界には女性が増えているにも関わらず、女性のみの設立チームだけが、資金調達プロセスで不利な状況にあるのは事実なのか、そうであればなぜなのかを語り合う場をTwitterスペースでホストした。

ジョンソン氏が紹介したある説は「男性の影の実力者たちが、自分たちの家父長支配的偏見を共有する女性VCを選んで資金を提供する傾向が強いために、そうした偏見をもたない多くの女性が排除されている」というものだったと同氏がTechCrunchに書面で伝えた。簡単に言えば、女性VCは、男性の仲間たちと同様に男性ファウンダーを好む傾向にある、ということだ。

議論に参加し、その後TechCrunchと話した連続起業家のGentry Lane(ジェントリー・レーン)氏も、ベンチャー業界は本質的に女性に対する偏見が強いと信じている。Zoom(ズーム)などのオンライン対話のおかげで、トップクラスのVCがこれまでになく接触しやすくなっているのに、女性ファウンダーの調達資金シェアが増えるのではなく減っていることを、他に説明できるだろうか? これは「染み付いた女性蔑視」だとレーン氏はいう。彼女はベンチャーキャピタルの支援を受けている国家安全保障ソフトウェア会社、ANOVA Intelligence(アノーバ・インテリジェンス)のCEO・ファウンダーだ。

Twitter Spacesでの会話で浮上した説は他にもあった。VCは過小評価されているファウンダーを支援するためのイベントを主催するほうが、実際に資金提供するよりも気が楽なのだと、何人かの参加者が指摘した。投資家は小切手を書く代わりに、いわゆる美徳シグナリングに携わっている、と不満をつのらせた起業家たちは観察する。

さらにレーン氏は、プレゼンテーションと売り込み資料を「通常の人間的会話」よりも重視するVCたちの変わらない性分が、そうした経験が少ない傾向にある過小評価されたファウンダーに対してネガティブな影響を与え続けている、と指摘する。

投資ステージによる部分もあると、参加者たちは主張した。2021年のベンチャー投資全体の増加は、後期ステージラウンドが押し上げたものだが、そのステージは男性ファウンダーが支配する傾向が強い

さまざまな憶測が飛び交う中、PitchBookレポートには明るい兆しもあった。何かといえば、PitchBookのデータは、女性ファウンダーが少なくとも1名いるVCが支援する企業は、回数で2021年の全ベンチャー投資の25%以上を占め、総投資金額の17.6%を獲得したことを示している。このカテゴリーの大部分は設立チームに男性と女性両方を含んでいる。

アクセラレータープログラムOn Deck(オン・デック)のShriya Nevatia(シュリア・ネバシア)氏は、PitchBookのデータを楽観する理由に挙げ、女性ファウンダーを1人以上含む案件が最近増加していることをツイートで指摘した。「これは50%にかなり近い、2008年が11.8%だったことを思えば相当な早さです」とネバシア氏は書いた。

さらに彼女は「私たちは『今』前進しているところです、みなさんこの調子でがんばりましょう」とツイートした。

画像クレジット:Ponomariova_Maria / Getty Images

原文へ

(文:Anita Ramaswamy、翻訳:Nob Takahashi / facebook