コミュニティサービスの成長には不適切なコンテンツに対応する仕組みが不可欠だ。
サービスのネットワークが広がり多様なユーザーが参加するようになればなるほど、他のユーザーを不快にする投稿や言動が増えるリスクも高まる。運営側がそのような投稿に素早く対処できることが、居心地のいいコミュニティを作るための鍵だ。
実際SNSやソーシャルゲームを含むCGMの運営元の中にはコンテンツの監視や管理にかなり気を配り、多くの予算を投じている企業も多い。ただ全ての投稿を人の目で監視するとなると膨大なリソースと予算が必要で、大きな負担にもなりうる。
そんなコンテンツ監視の課題に対してAIとクラウドソーシングを組み合わせた解決策を打ち出しているのが2013年創業のスタートアップ・ナナメウエだ。同社は5月8日、新たにコンテンツ監視サービス「Posmoni」の提供を開始したことを明らかにした。
Posmoniはもともとナナメウエ自身が自社の課題を解決するために開発した仕組みが基になっている。
現在1日約400万件のコンテンツが投稿される匿名性SNS「Yay（イェイ）」を運営する同社は、2015年に学生限定の匿名SNS「ひま部」を公開して以来、数年に渡ってコミュニティサービスを手がけてきた。
徐々にサービスが拡大していく中でナナメウエが直面したのが冒頭でも触れたコンテンツ監視の問題だ。特に同社のサービスは匿名性ということもあり、良くも悪くも幅広いタイプのコンテンツが投稿されやすい。そこには暴言や嫌がらせのようなものも含まれる。
「Posmoniを作ったのは、コンテンツの監視管理がめちゃくちゃ大変だったから。これまで先輩のSNS企業がどうしていたかというと、地方などにも拠点を設けて、大量に人を雇い人力ベースで対応をすることが多かった。自分たちも最初はタイなどにも拠点を開設し自社でやっていたものの、コンテンツ数が増加するに伴い人だけで対応するのは負担が大きくなってきた。そこでデータがある程度集まってきたこともあり、監視管理用のAIを作ることで一部の業務を自動化できないかと考えたのが最初のきっかけだ」（ナナメウエ代表取締役の石濵嵩博氏）
ナナメウエでは自社サービスに投稿されたデータを活用して開発したAIですべての監視対象をフィルタリングし、そこでは判別できなかったもののみを人力でチェックする仕組みを構築。それによって人だけで監視していた時に比べ、人的なコストを10分の1程度まで削減することに成功した。
今回ローンチしたPosmoniはその仕組みをプロダクト化したもの。同じような課題を抱える外部の企業がコンテンツ監視にかかる負担を減らせるようにサポートする。
Posmoniの場合はナナメウエが自社SNSの運営を通じて培ってきた経験を活用できるので、導入企業側が十分なデータがなくても投稿監視や暴言検知をある程度自動化することが可能。AIで監視が難しい部分はクラウドソーシングを取り入れて人の目でチェックしつつ、その結果をAIにフィードバックして再学習を進めていくことで検知精度自体も高めていける。
クラウドソーシングについてはナナメウエのネットワークに加えて、グローバルでBPO事業を手がける企業とパートナーシップを結び人材を供給する。料金体系は監視対象のコンテンツ数に応じた従量課金型で、人的な部分を自社で賄いたいという企業はAIシステムのみを使うこともできるという（1件あたり0.5円から）。
ナナメウエではすでに国内の大手ゲーム会社とPosmoniを使った取り組みをスタートしているとのこと。オンラインゲームで使われる暴言などは基本的にSNSで使われているものと同じため、新しくデータを用意しなくてもPosmoniを使って十分に検知できるそうだ。
コンテンツのモニタリングをAIで自動化しようというプロダクトや試み自体は以前から存在していたが、石濵氏によると精度面が大きなネックになっていた。Posmoniの1つのポイントは上述した通りナナメウエ自身がコミュニティサービスを運営していること。ひま部やYayで蓄積してきたデータ、知見を基にAIを開発できるのは強みになる。
また全てをAIで自動化するのではなく、そこで対応できないものについてもカバーできるクラウドソーシングの仕組みをパッケージとして備えているのも同サービスの特徴だ。石濵氏はAIとクラウドソーシングを組み合わせたハイブリッド型こそがAIシステム開発の勝ち筋になると考えているようで、今後ナナメウエではこのモデルを用いて企業のAIサービス開発をサポートする事業にも力を入れていく。
Posmoniについてもまずはコンテンツ監視からスタートし、少しずつ対応できる領域を広げていく計画。直近では新型コロナウイルスの影響でスタッフ同士の接触機会を減らしながらコンテンツを監視できるソリューションへのニーズが高まっているため、そういった要望にも応えていきたいという。
ナナメウエは2013年の創業以来、コンシューマー向けのものを中心に複数のプロダクトを開発してきたスタートアップ。これまでにSkyland VenturesやEast Venturesのほか、複数のエンジェル投資家から資金調達を実施している。