YouTube（ユーチューブ）、Facebook（フェイスブック）、Twitter（ツイッター）などのソーシャルメディアサイトで使われているレコメンデーション（推奨）アルゴリズムはしばしば、誤報、プロパガンダ、ヘイトスピーチ、陰謀論、その他の有害なコンテンツの拡散に一役買っているという批判を浴びてきた。とりわけFacebookは、自社のプラットフォーム上でQAnon（キューアノン）の陰謀論に関係するグループが拡大するままにし、民兵組織のメンバー数増加を助けたとして、最近批判を浴びたばかりだ。フェイスブックは現在、不快、不適切、危険なコンテンツや誤解を招くコンテンツ、さらには事実と異なるコンテンツにユーザーがさらされているのは推奨システムに何らかの原因があるという主張に対抗しようとしている。
今回フェイスブックは、同社が定めるコンテンツ推奨ガイドラインの仕組みを初めて公開した。
FacebookのヘルプセンターやInstagram（インスタグラム）のヘルプセンターで新しく公開されたドキュメンテーションを確認できるが、その中にFacebookやInstagramのアルゴリズムがコンテンツ、アカウント、ページ、グループ、イベントを推奨から除外する方法が詳しく説明されている。
現在、Facebookの提案機能は「おすすめのページ」、ニュースフィードの「おすすめの投稿」、「知り合いかも」、「おすすめのグループ」といったところに見ることができる。Instagramの場合、発見（Explore）タブ、アカウントの「おすすめ」、IGTVの「おすすめ」でユーザーに関連性の高い情報が表示される。
同社によれば、Facebookの現行のガイドラインは2016年から実施されており、「削除、抑制、情報提供」という戦略の上に成り立っているという。この戦略は、Facebookのコミュニティ規定に違反するコンテンツを削除し、規定には違反していないが問題のあるコンテンツの拡散を抑制し、クリック、閲覧またはシェアするコンテンツを判断するための追加情報をユーザーに提供することに重点を置くものであるというのが、フェイスブック側の説明だ。
今回公開された推奨ガイドラインは、基本的にはこの戦略の中の「削減」面におけるフェイスブックの取り組みであり、ユーザーに新しいアカウント、グループ、ページなどへのフォローを働きかけることによって、Facebookのコミュニティ規定よりも高い水準を維持しようとしている。
フェイスブックが新しく公開したドキュメンテーションでは、推奨機能の対象外となる5つの主要なカテゴリーが挙げられており、内容的にはInstagramのガイドラインも同様である。ところが、特定のユーザーに対して推奨する内容をFacebookが実際どのように選択しているのかという問いについては、納得のいく説明が提供されていない。推奨技術を語るうえで重要なこの部分に関して、フェイスブックはあえて触れていない。
推奨の対象外となるコンテンツを多く含むカテゴリーの1つは、言うまでもなく、Facebookの「安全なコミュニティ構築」を妨げるコンテンツである。これには、自傷行為、自殺、摂食障害、暴力、露骨な性描写を含むコンテンツや、タバコ、薬物、および非推奨のアカウントまたはエンティティによる投稿内容といった規制コンテンツが含まれる。
また、フェイスブックは、機密性の高いコンテンツや低品質コンテンツ、ユーザーに不評のコンテンツや低品質なパブリッシングに関連するコンテンツは推奨しないとしている。これらのカテゴリーに含まれるのは、クリックベイト、不正なビジネスモデル、給料日ローン、「奇跡の治療法」などの大げさな表現で健康関連商品を宣伝するコンテンツ、美容整形・美容処置のプロモーションコンテンツ、コンテスト、サンプル・試供品、エンゲージメントベイト、別のソースからコピーされた盗作コンテンツ、外部サイトからのクリック数と比べてFacebookにおけるクリック数が不均衡なウェブサイトのコンテンツ、著者や配信スタッフに関する情報開示の透明性が低いニュースコンテンツだ。
加えて、フェイスブックによれば、偽の、または誤解を招くコンテンツも推奨されることはない。独立したファクトチェッカーによって事実ではないと判断されたものシェアするコンテンツ、ワクチンに関する誤情報、偽造文書の使用を助長するコンテンツなどが、それにあたる。
なお、アカウントやエンティティの中で比較的直近にコミュニティ規定に違反したもの、フェイスブックが推奨しないコンテンツをシェアしたもの、ワクチンに関する誤情報を投稿したもの、「いいね」を購入したもの、広告の掲載禁止の処分を受けているもの、虚偽の情報を投稿したもの、暴力的な運動とつながりがあるものに関しては、Facebookとしても推奨しないように「努める」とのことだ。
最後に言及されている項目については、お察しの通り、先日ウィスコンシン州ケノーシャの民兵組織がFacebook上に設けたイベントページの事件をうけたものだ。この事件では、同イベント作成後に規定違反の通報が455件もあったのにページは削除されず、4人のモデレーターが規定には違反していないとして苦情を却下したという。同ページではユーザーに「武装」を呼び掛け、どのような武器で持参すべきかについてコメント上でやり取りが行われていた模様だ。ウィスコンシン州ケノーシャでのこの抗議行動は、最終的に17歳の少年が当局の夜間外出禁止令を破り民兵として参加。州境を越え、抗議行動者に向かってAR-15式ライフルを発砲。2人を殺害、1人に重傷を負わせるという結末を迎えてしまった。
こうした実績を踏まえると、Facebook自体が自社の定めたガイドラインにどの程度準拠できるのかという問いは考察に値する。実際のところ、多くの人々が、ガイドラインが機能していない状況でクリックして推奨されたコンテンツを開くことで、陰謀論や危険な健康コンテンツ、新型コロナウイルス感染症に関する誤情報などの不適切なコンテンツにアクセスできてしまっている。報道では、キューアノンはFacebookの推奨機能のおかげで成長したと言われている。
また、こうしたガイドラインではカバーできないグレーゾーンが数多く存在することも見落とせない。
民兵組織や陰謀論は氷山の一角にすぎない。例えばパンデミックの最中に、事業の閉鎖に関する政府のガイドラインに異論がある米国のユーザーは、数々の「再開した」グループが自分に対して推奨されていることにすぐに気づく。そうしたグループでは、メンバーは政治について討論するだけでなく、公共の場や着用が義務付けられている職場でマスクを着用しないことを得意気に自慢し、マスク非着用を貫くコツを伝授しあい、自撮りでお互いの成功をたたえあう。この場合、その表現自体は厳密にはルール違反になっていないとしても、公衆衛生を脅かす行為が奨励される結果になっていることは間違いない。
一方で、あるグループをFacebookが直接推奨していない場合でも、ユーザーがトピックをクイック検索すれば、本来ならFacebookの推奨システムで不適切とされるコンテンツにアクセスできることがある。
例えば今、「vaccines」という単語をクイック検索すると、ワクチン健康被害や代替医療や反ワクチンに関する基本コンテンツを扱ったグループがいくつもヒットするだろう。ワクチンを支持するコンテンツの数よりも多いのが現状である。世界中の科学者たちが新型コロナウイルス感染症に対処すべくワクチン開発に取り組んでいるときに、Facebookが反ワクチン派に巨大な公開討論の場を提供し、その概念を広められるようにしているというのは、Facebookによる情報拡散がいかに世界中の公衆衛生を脅かすことにつながるかを示す良い例だと言える。
しかし本当に難しい問いは、そうした議論をしているユーザーを規制することと、自由に発言できる場を確保することとのバランスをどう取るかということだ。これは政府による規制がほとんどない部分で、最終的にはフェイスブックが独自に決める必要がある。
推奨機能はFacebookの全体的なエンゲージメントシステムの一部にすぎず、しばしばユーザーを有害なコンテンツに誘導してしまっているのは事実だ。とはいえ、ユーザーが有害なコンテンツにさらされるのは、トピックに関する一般的な情報を得ようとしてユーザーがFacebookで検索したときに、検索結果の上部に表示されるグループやページである場合が多い。Facebookの検索エンジンが重視するのは、グループのメンバー数やユーザーが投稿する頻度といったエンゲージメントやアクティビティであり、コンテンツが既存の知見や医療ガイドラインにどれほど即しているかという点ではないからだ。
結局のところ、Facebookの検索アルゴリズムはさほど詳細に明文化されたわけではないのである。
関連記事：Facebookがニュースフィードで米国の投票所スタッフ募集のプッシュ通知を開始
カテゴリー：ネットサービス
タグ：Facebook
[原文へ]
（翻訳：Dragonfly）