ツイッターが悪口や嫌がらせを自動的に除外する「セーフティーモード」のテストを開始

Twitter(ツイッター)が行う最新のテストは、このプラットフォーム上で嫌がらせに悩まされている人々にとって、待望の救済策となるかもしれない。

同社はこの新たなテストで「Safety Mode(セーフティーモード)」と呼ばれる機能を導入する。これはアカウントと、Twitterで悪名高い押し寄せる罵詈雑言リプライとの間に、一時的な防衛線を張るものだ。このモードは設定メニューから有効にすることができ、アルゴリズムによる選別を行って悪意の可能性を排除する。これは7日間継続する。

Twitterのプロダクトリーダーを務めるJarrod Doherty(ジャロッド・ドハーティ)氏は「私たちの目標は、有害な発言の蔓延と可視性を減らすことで、ツイートを受け取る側の個人を、これまで以上に守ることです」と、述べている。

画像クレジット:Twitter

とはいえ、セーフティーモードはまだ広範に展開されるわけではない。この新機能はまず、Twitterが「小規模なフィードバックグループ」と呼ぶ、約1000人ほどの英語ユーザーに提供される。

Twitterのアルゴリズムは、ツイートの内容(憎悪に満ちた言葉、同じことの繰り返し、一方的な言及など)と、アカウント同士の関係性を評価して、除外する発言を選定する。そのユーザーがフォローしているアカウントや、定期的にツイートをやり取りしているアカウントは、セーフティーモードのブロック機能の対象にはならない。

テストグループのユーザーは「プライバシーとセーフティー」の設定から、セーフティーモードをオンにすることができる。一度有効にすると、アカウントは7日間、このモードに留まることになる。7日の期間が終了した後は、再び有効にすることができる。

この新機能を開発するにあたり、Twitterはメンタルヘルス、オンラインの安全性、人権などの専門家に相談したという。Twitterが相談したパートナーは、この機能から恩恵を受ける可能性が高いアカウントを推薦することで、最初のテストグループに貢献することができた。Twitterはこの新機能のテストにおいて、女性ジャーナリストや社会から疎外されたコミュニティに焦点を当てたいと考えている。Twitterは、テストグループの基準を満たすアカウント、すなわちTwitterで最悪の衝動の受け皿となることが多いアカウントに連絡を取り始めるという。

Twitterは数カ月前、新たな悪口防止機能の開発に取り組んでいることを発表した。この機能には、ユーザーがタグ付けされたスレッドから自分を「unmention(アンメンション)」できるオプションや、連続的な嫌がらせを受けているユーザーが自分をメンションできないようにする方法などが含まれる。同社は当時、悪口が拡散している状況に対処するためのセーフティーモードのような機能の開発も示唆していた。

「Twitterで嫌がらせを受ける」というのは、残念ながらそれほど珍しいことではない。憎悪や罵倒がひどくなると、人々はTwitterから離れてしまい、長期間放置したり、完全にやめてしまう傾向がある。Twitterにとっても、それは好ましいことではない。嫌がらせに対する真の解決策を提供するには至っていないものの、同社は明らかに問題を認識しており、いくつかの実行可能な解決策に取り組んでいる。

関連記事
ツイッターが@mentionをユーザーが管理できる新しい攻撃防止ツールを検討
ツイッターのポリシー違反対応措置が2019年下半期に増加、新設されたTwitter Transparency Centerがレポート
画像クレジット:Bryce Durbin / TechCrunch

原文へ

(文:Taylor Hatmaker、翻訳:Hirokazu Kusakabe)

投稿者:

TechCrunch Japan

TechCrunchは2005年にシリコンバレーでスタートし、スタートアップ企業の紹介やインターネットの新しいプロダクトのレビュー、そして業界の重要なニュースを扱うテクノロジーメディアとして成長してきました。現在、米国を始め、欧州、アジア地域のテクノロジー業界の話題をカバーしています。そして、米国では2010年9月に世界的なオンラインメディア企業のAOLの傘下となりその運営が続けられています。 日本では2006年6月から翻訳版となるTechCrunch Japanが産声を上げてスタートしています。その後、日本でのオリジナル記事の投稿やイベントなどを開催しています。なお、TechCrunch Japanも2011年4月1日より米国と同様に米AOLの日本法人AOLオンライン・ジャパンにより運営されています。