パンデミックから2年経った今も、多くの人にとってはオンライン上での会話が日々の主要な交流手段となっている。そのためオンライン上で交わされる会話の数は計り知れない量となっているが、ご存じの通りそれらすべてがクリーンでポジティブなものではない。米国現地時間1月24日、プラットフォームプロバイダーに人工知能技術を提供し、有害なやり取りをリアルタイム（20ミリ秒以下）で検出してシャットダウンするというSpectrum Labs（スペクトラム・ラブス）と呼ばれるスタートアップが3200万ドル（約37億円）の資金を調達したと発表した。この資金は、成長中の消費者向けビジネスをさらに強化するための技術に投入される他、社内および顧客との会話のための企業向けサービスを提供するという新たな分野への進出に向けて使用され、会話中の有害性を検知するだけでなく、監査トレイルを提供することでより高い信頼性と安全性を届ける計画である。
「思いやりを重んじる言語界のリーダーになることを目指しています」とCEOのJustin Davis（ジャスティン・デイビス）氏はインタビュー中で話している。
今回のラウンドはIntel Capital（インテルキャピタル）がリードし、Munich Re Ventures（ミューニック・リー・ベンチャーズ）、Gaingels（ガインゲル）、OurCrowd（アワクラウド）、Harris Barton（ハリス・バートン）の他、前回からの支援者であるWing Venture Capital（ウィング・ベンチャー・キャピタル）、Greycroft（グレークロフト）、Ridge Ventures（リッジ・ベンチャーズ）、Super{set}（スーパーセット）、Global Founders Capital（グローバル・ファンダーズ・キャピタル）も参加している。Greycroftは2020年9月にSpectrumの前回ラウンドの1000万ドル（約11億5400万円）を主導しており、Spectrumはこれで現在合計4600万ドル（約53億円）を調達したことになる。
関連記事：有害コンテンツと戦うAIプラットフォーム開発のSpectrum Labsが1000億円超を調達
CTOのJosh Newman（ジョシュ・ニューマン）氏と共同で同社を設立したデイビス氏によると、Spectrum Labsは評価額を公開していないというが、同社の事業規模がその様子を物語っている。
現在Spectrum Labsは、ソーシャルネットワーキング企業のPinterest（ピンタレスト）やThe Meet Group（ザ・ミート・グループ）、出会い系サイトのGrindr（グリンダー）、Jimmy Wales（ジミー・ウェールズ）氏が運営するエンターテインメントWikiのFandom（ファンダム）、Riot Games（ライアットゲームズ）、eラーニングプラットフォームのUdemy（ユーデミー）など20以上の大手プラットフォームと提携しており、これらのプラットフォームでは、何百万人もの顧客が毎日オープンなチャットルームやよりプライベートな会話の中で、何十億ものメッセージを送り合っている。
同社のテクノロジーは自然言語に基づいており、テキストベースの会話と音声の会話の両方をリアルタイムで検出するというものだ。
Spectrumでは音声がテキストに書き起こされるのではなく、音声として「読まれる」のだとデイビス氏は説明する。これによりSpectrumの顧客は有害なやり取りへの対応を大幅に早めることができ、デイビス氏が「ワイルドウェスト特有の言語」と呼ぶ有害な言葉を妨げることが可能になる。Spectrumの技術を使用していない一般的な企業の対応では、ユーザーが問題のあるコンテンツを通報した後、書き起こされた音声の中からその音声を見つけなければならなず、対応にかなりの時間を要してしまう。
ポッドキャスティングだけでなく、Clubhouse（クラブハウス）やTwitter（ツイッター）のSpaces（スペース）のような音声ベースのサービスが人気を博していることから、このテクノロジーはよりいっそう重要なものとなるだろう。
テキストであれオーディオであれ、Spectrumはこれらのやり取りをスキャンし、40以上の行動プロファイルにまたがるあらゆる有害コンテンツを検出するのである。この技術は世界中の研究者や学者と相談しながら構築されたもので、増え続けるウェブ上のデータを取り込みながらさらに改良が重ねられている。プロファイルにはハラスメント、ヘイトスピーチ、暴力的過激主義、詐欺、グルーミング、違法な勧誘、ドキシングなどが含まれており、また現在約40の言語でのスキャンに対応しているという。言語の制限はなく、どんな言語でも機能するとデイビス氏は話している。
「技術的にはどんな言語でも数週間で対応することができます」と同氏。
オンライン上で最も有害性の高い領域はやはり消費者分野である。オープンフォーラムやよりプライベートな空間でのいじめやヘイトスピーチ、その他の違法行為が日々繰り広げられている。Spectrum Labsでは、これまで以上に複雑になった悪質な行為者の手法を検出するための技術への投資をこれからも継続していく予定だ。同社ではプラットフォームの信頼性・安全性チーム向けの管理機能やツールに加えて、ユーザー自身が晒されても良いもの、絶対に晒されたくないものを決定できるようにする方法を改善するため注力していく予定だという。しかしこれはとても微妙な領域である。プラットフォームは一般的に、言論の自由に配慮してユーザー同士の会話に干渉しないことを望んできたため、それが原因で有害性が暴走したとも言えるのだが、プラットフォームの善意が検閲していると見なされ非難される可能性もあるため、この議論は現在も未解決である。
「ポリシーの実施と、ユーザーが望んで受け入れられるかどうかという問題の間には、緊張関係が存在します」とデイビス氏は説明する。プラットフォームの仕事は「最悪の事態を回避しつつ、消費者が見たいものを選択できるようなコントロールを提供することである」と同社は考えている。
また同社は企業向けサービスへの進出も計画している。
企業向けサービスとは興味深い。企業内の人々が互いに会話する方法（Spectrum Labsがすでに提供している消費者向けサービスと同様の形態をとるのだろう）だけでなく、営業、カスタマーサービス、マーケティングなどのエリアで企業が外部の世界とどのように接しているかを見ることができ、そしてSpectrum Labsが収集した情報を分析に活用して、これらの分野でのその後の運営方法を検討することができるのである。
ただし、これは何も新しいサービスではない。例えばSpectrumの競合他社には会話モニタリング分野のスタートアップであるAware（アウェア）がいる。同社は企業向けに特化したサービスである（L1ghtは消費者分野での競合だ）。
まだ他にもある。前回、Spectrum Labsについて書いた際、創業者と創業チームがSalesforce（セールスフォース）に買収されたマーケティングテクノロジー企業Krux（クラックス）の出身であることを指摘した（Spectrum Labsを設立する前に働いていた）。SalesforceはCRMに限らず、企業がより効率的にビジネスを行うための幅広いツールセットを構築しており、また、かつて別のソーシャルネットワークを設立し、FacebookのCTOを務めたこともあるBret Taylor（ブレット・テイラー）氏が現在トップに立っていることもあり、今後Salesforceがこの分野にもっと関心を持って取り組んでもまったく不思議ではない。コミュニケーションフォーラムがどのように利用され、悪用されるかについて詳しい情報を得ることができるのである。
消費者と企業の両方の課題に対処するために、今回のラウンドではIntelが戦略的投資家として参加することになったとデイビス氏は話している。Spectrum Labの技術をIntelのチップ設計とより密接に連携させることで動作速度をさらに向上させる計画で、またIntelにとって、これは信頼性と安全性の問題を重視する同社のハードウェア顧客に対するユニークなセールスポイントにもなる。
「Spectrum Labsの自然言語理解技術は、信頼性の課題に取り組む世界中の企業を強化する、コアプラットフォームとなる可能性を秘めていると確信しています」とIntel Capitalの副社長兼シニアMDであるMark Rostick（マーク・ロスティック）氏は声明の中で伝えている。「デジタルトラストと道徳的な運用が、組織の差別化を図るための重要な要素として考えられている今、トラスト＆セーフティー技術を企業運営に構築するということに、大きなチャンスがあると考えています」。
画像クレジット：David Woodfall / Getty Images
［原文へ］
（文：Ingrid Lunden、翻訳：Dragonfly）