Discordがネット上の有害コンテンツとハラスメントに真剣に取り組むためAIソフトウェアSentropyを買収

オンラインチャットプラットフォームのDiscord(ディスコード)はSentropy(セントロピー)を買収する。AIを利用してオンラインハラスメントやヘイト発言を検出、削除するソフトウェアを開発している会社だ。

現在Discordは、発言の管理に「マルチレベル」のアプローチをとっており、社内の人力監視チームと有志のモデレーターと管理者の力で個々のサーバーの基本ルールを作っている。ユーザーを守り、コンテンツ管理ポリシーを整備することに特化したTrust and Safety(信用と安全)チームは、2020年5月時点でDiscordの労働力の15%を占めている。

Discordは、Sentropyの独自製品を既存のツールキットに組み込むとともに、同社の経営陣も迎え入れる。契約条件は明らかにされていないが、この買収は有害なコンテンツとハラスメントに真剣に取り組むことが正しい行動であるばかりでなく、ビジネスにもなることを示す証だ。

「Trust and Safetyチームの技術とプロセスは競争優位性のために使うべきものではありません」とSentropy CEOのJohn Redgrave(ジョン・レッドグレイブ)氏が合併を発表するプログ記事で述べた。「誰もがデジタルでもリアルでも安全でいる権利があります。モデレーターたちはこのオンラインで最も困難な仕事を、効率よくかつ悪影響なくこなすためのツールを与えられるべきです」。

Discordは危険なコンテンツに真剣に向き合うことに関して、必ずしも良い評判を得ていない。リアル世界の暴力と結びついた極右グループが、同プラットフォームに居着いていたこともある。Discordがヘイトや過激思想を厳しく取り締まるようになったのは、バージニア州シャーロッツビルで開かれた極右集会「ユナイト・ザ・ライト・ラリー」で反人種差別運動家のHeather Heyer(ヘザー・ハイヤー)氏が亡くなった後のことだった。

2018年2月、Discordは白人至上主義者とネオナチ・グループを追放してプラットフォームを浄化し、ルーツであるゲーミング事業から主流ソーシャルネットワークへと成長するための道を歩み始めた。現在Discrodは1億5000万人の月間アクティブユーザーを擁し、あらゆるコミュニティにとって居心地の良い場所という地位を確保しつつ、コアユーザーであるゲーマーたちを掴み続けている。

レッドグレイブ氏が自社とDiscordの自然なつながりについてブログで詳しく述べている。

Discrodはソーシャルネットワークの次世代を担う会社です。そこは、ユーザーが販売される商品ではなく、コネクティビティーとクリエイティビティーと成長のエンジンである世代です。このモデルでは、ユーザープライバシーとユーザーの安全はプロダクトの主要な要素であり、後付けではありません。このモデルの成功は、次世代のTrust and Safetyをあらゆるプロダクトのために開発することにかかっています。私たちはこの責任を重く考え、Discordの規模でDiscordの資源と人材とともに働くことで私たちの影響力を高められることを謙虚に受け止めています。

Sentropyは、オンラインハラスメントと虐待を発見、追跡、駆逐するためのAIシステムを擁して2020年夏静かに開業した。その後同社は1300万ドル(約14億4000万円)の資金を調達し、Reddit(レディット)の共同ファウンダーであるAlexis Ohanian(アレクシス・オハニアン)氏と彼のVC会社であるInitialized Capital(イニシャライズド・キャピタル)、King River Capital(キング・リバー・キャピタル)、Horizons Ventures(ホライゾンズ・ベンチャーズ)、Playground Global(プレイグラウンド・グローバル)らの著名な投資家が出資した。

Sentropyは、同社のソフトウェア製品であるDetect and Defend(ディフェクト・アンド・ディフェンド)を使用している既存の企業ユーザーに9月末までサービスを提供する。同社の消費者向け無料ダッシュボードのSentropy Protectは7月初めに閉鎖された。

関連記事:Sentropyがソーシャルメディア上の攻撃から人々を守るツールをローンチ、Twitterを皮切りに展開

Sentropyの製品はソーシャルネットワークに依存しておらず、特定のプラットフォームに特化したソリューションではないと考えられている。Discord傘下に入った後も、安全なオンライン空間を作るための知見を広くインターネットで共有していくつもりのようだ。

「私たち自身のコミュニティを守るために開発したベストプラクティスとテクノロジーとツールをインターネット全体で共有する最善の方法を、Discordとともに考えていくことをとても楽しみにしています」とレッドグレイブ氏は言った。

Discordの未来は明るい。同社は2021年4月、評価額100億ドル(約1兆1050億円)といわれたMicrosoft(マイクロソフト)による買収提案を固辞した。現在Discordは自立に満足しているようで、そう遠くない将来のIPOも計画している。

関連記事:Discordがマイクロソフトによる買収を固辞、独自に新規株式公開を目指す

カテゴリー:ネットサービス
タグ:DiscordチャットツールビデオチャットSentropy買収

画像クレジット:Discord/Eric Szwanek

原文へ

(文:Taylor Hatmaker、翻訳:Nob Takahashi / facebook

投稿者:

TechCrunch Japan

TechCrunchは2005年にシリコンバレーでスタートし、スタートアップ企業の紹介やインターネットの新しいプロダクトのレビュー、そして業界の重要なニュースを扱うテクノロジーメディアとして成長してきました。現在、米国を始め、欧州、アジア地域のテクノロジー業界の話題をカバーしています。そして、米国では2010年9月に世界的なオンラインメディア企業のAOLの傘下となりその運営が続けられています。 日本では2006年6月から翻訳版となるTechCrunch Japanが産声を上げてスタートしています。その後、日本でのオリジナル記事の投稿やイベントなどを開催しています。なお、TechCrunch Japanも2011年4月1日より米国と同様に米AOLの日本法人AOLオンライン・ジャパンにより運営されています。