Facebook（フェイスブック）とその兄弟アプリは、どうしたらプラットフォーム上での中傷や嫌がらせにうまく対処し根絶できるかという問題に、アルゴリズムと人力の両面で取り組むのが最良の方法と考え、長い間格闘を続けてきた。そんな中で、Instagram（インスタグラム）は米国時間4月20日、独自の新ツールを2つローンチした。
1つ目は、ダイレクトメッセージ（DM）、特にメッセージリクエストによる嫌がらせを、より強力に排除すための新しい手段だ。これには、中傷を示唆する単語、言い回し、絵文字、さらにはフィルターを回避するためにわざと綴りを変えて使われることがある、よくある綴り間違いを含む新しいキーワードのリストが使われる。もう1つは、たとえば新しいアカウントに変えてしつこく接触を試みる相手を、積極的にブロックできる権利がユーザーに与えられる。
このアカウントをブロックできる機能は、2〜3週間で世界中で使えるようになるとInstagramは話している。また、中傷DMのフィルター機能は、2〜3週間以内に英国、フランス、ドイツ、アイルランド、カナダ、オーストラリア、ニュージーランドで使えるようになり、その他の国々でも、2〜3カ月以内に利用可能になると、同社は私に話してくれた。
注意すべきは、これらの機能はInstagramだけのものであり、DM機能のあるFacebookの他の2つの大人気アプリMessenger（メッセンジャー）とWhatsApp（ワッツアップ）には適用されないことだ。広報担当者は、Facebookにはこれらのアプリにも、2021年後半には導入したい考えがあると認めていた（Instagramとその他のアプリは、これらの機能の広範な展開を検討する以前に、すでに定期的なアップデートを個別に実施している）。
Instagramは、この機能は中傷的内容を含むDMをスキャンするものだと話している。スキャンは、Facebookが差別や中傷に反対する団体（団体名は非公開）などの協力のもとに、その方針に従って作られた言葉や絵文字のリストと、ユーザーが自分で追加する可能性のある言葉や絵文字が基準になっている。これは、デフォルトで使えるようにしておくというより、むしろ最初から有効にしておくべきではないのか。
なぜそうしないのか？ユーザー数を確保するためのように思える。プライベートな会話は、当人同士が望むならそのまま続けられるようにするためだ。「私たちは人々のプライバシーを尊重しているため、ユーザーのエクスペリエンスは、ユーザー自身が最も好ましいと思うかたちに保てるようにしています」と広報担当者は話し、それはFacebookのコメントフィルターの仕組みに近いと指摘した。このオプションは、中傷的な表現を管理したい人のために、設定＞プライバシー＞Hidden Words（隠される言葉）として実装される予定だ。
外の世界では、Sentropy（セントロピー）やHive（ハイブ）をはじめとする数々のサードパーティーのサービスが、コンテンツの内容を審査するツールを作っている。しかしおもしろいのは、大手テック企業までもが、今そうしたツールを自前で作ろうという気になったことだ。この場合もそれに当たると、Facebookは話していた。
このシステムは完全に自動化されている。ただし、通報があったコンテンツは人が審査するとFacebookは言っていた。そのやりとりで生じたデータの保管は行わないが、通報された言葉は、コンテンツのブロックや、その後の削除、そのコンテンツを送った人間のブロックと警告といった処置の判断基準となる言葉のデータベース拡大に利用されることを同社は認めている。
そうした人々に対してFacebookは、強い悪意を持つ人たちは、まずプロフィールがブロックされるや、ときを置かずにいくつものアカウントを作り、その代役にあてているという現実に対処する賢い方法を、ようやく手に入れることとなった。
Facebookの誹謗中傷に対するポリシーでは、嫌がる相手に繰り返し接触を試みることをすでに禁止しているにも関わらず、DMが送られてくるその抜け道を、ずっと腹立たしく思ってきた。Facebookではまた、常習的犯行もすでに禁止している。これについて同社はこう説明する。「私たちの規約に違反してアカウントが停止された場合、私たちが関知し得る限り、その人物が作る新しいアカウントをすべて削除しています」。
同社のDMに関するアプローチは、他のソーシャルメディア企業が作り上げた対策の、ある意味、雛形になっている。
基本的にこれは、デフォルトでは開かれたかたちになっている。1つの受信トレイは実際に承認した相手からのメッセージ用で、もう1つはすべての人からのメッセージ用に設けられている。2つ目のトレイを丸ごと無視する人もいるが、本来のInstagramの仕組みと意味からすれば、話し相手を絞り込むのではなく、もっと増やすことがその目的だとわかる。つまり、DMに2つ目の受信トレイを活用しようという人にとって、それは単に電子メールの迷惑メールボックスの中を探るといった行為よりも有意義なものだ。
だが、もっと大きな問題のモグラ叩きは、これからも続く。より強力な対策を求めるユーザーの対応ばかりではない。規制当局の監視下に置かれた状態が続くFacebookは、嫌がらせの台頭とその適切な対処という極めて重大な問題に直面しているのだ。同社には、他社が解決するよりも早く解決することが求められている。
カテゴリー：ネットサービス
タグ：Facebook、Instagram、SNS、誹謗中傷、ブロック
画像クレジット：NurPhoto / Getty Images
［原文へ］
（文：Ingrid Lunden、翻訳：金井哲夫）
