Facebookの広告チェックシステムは、新型コロナウイルスの偽情報が自分たちのユーザーをターゲットするのを防げなかったことがConsumer Reports(コンシューマー・レポート誌)の調査でわかった。
非営利の消費者擁護団体である同誌は、Facebookのシステムを試すために、Self Perservation Societyという架空組織のFacebookページを設定し、新型コロナウイルスに関する偽情報や誤解を招く情報を載せた広告を作った。30歳以下の人は「安全」であるという嘘や、新型コロナウイルスは「デマ」だといったメッセージだ。
ほかにも、漂白剤を「毎日少しずつ摂取して健康を維持する」よう人々を促すデマ広告もつくったと同誌は報告している。
実験結果はどうだったのか? Facebookのシステムはこれらの広告をすべて見逃し、問題も害を及ぼす可能性も見つけられなかった。「Facebookはすべて承認した」、とConsumer Reportsは言う。「問題の広告はFacebookから警告を受けることなく一週間以上配信予定になったままだった」
もちろん同誌は実際に配信される前に広告を取り下げ、Facebookユーザーが誤情報などにさらされることがないことを確認した。しかしこのテストによって、新型コロナ・パンデミックを狙った有害広告の発見、防止するためのFacebookの広告チェックシステムに、多くの抜け穴があることが露呈した。
この実験でFacebookが拒否した唯一の広告は、使用していた画像が理由で、人工呼吸式フェイスマスクのストック写真が用いられていたためだった。画像を「似たような別の写真」と置き換えたところ、Facebookはこの広告も承認した。
先月Facebookは、新型コロナのもたらす脅威を受けて、全世界のコンテンツ・レビュワーを「後日指示するまで」自宅待機としたことを発表し、その結果自動レビューシステムへの依存が高くなると語った。
「自動システムへの依存が高くなるため、間違いが起きる可能性がある」と発表文に書かれていた。
Consumer Reportの調査は、AI監視への高い依存によるこうした過ちがいかに深刻であるかを浮き彫りにした。Facebookは、家を出るな、ソーシャルディスタンスを保て、という公共の指示を無視するようユーザーを促したり、「安全」のために有毒物を飲むよう薦めたりする明らかに有害なメッセージを見過ごしていた。
Consumer Reportsの記事に対してFacebookは、同社が新型コロナウイルスに関連するポリシーに違反した広告を「何百万件」も削除してきたことを挙げて自らを弁護した。一方で、新型コロナウイルスに関する偽情報の排除は完璧にはほど遠いことも認めた。
「当社は新型コロナウイルスに関連するポリシーに違反する広告や商品掲載を数百万件削除してきたが、この非常時に関する有害な偽情報が当社サービスに拡散されることを防ぐべく、常にシステムの改善と強化に努めている」とFacebookの広報担当者、Devon Kearns氏がConsumer Reportsに話した。
Facebookのある広報担当者は、新型コロナ禍の中で何人の人間が広告チェックを行っているかを本誌が尋ねたとき、回答を拒んだ。しかし、同社は、現在「数千人」のチェック担当者が、在宅で作業可能であることをConsumer Reportsに伝えている。
さる2018年、Facebookは約1万5000人がコンテンツのレビューのために雇用されていると報告した。
(ユーザー)コンテンツのレビューと広告のレビューをそれぞれ担当している人の割合はわかっていない。しかし「数千」と1万5000を比べると、広告をチェックする目の数が著しく減っている可能性は高い(新型コロナ以前、Facebookは、世界で3万5000人以上が「安全およびセキュリティーチーム」で働いていて、その中にレビュワーが1万5000人いることにもよく言及していた)。
Facebookのコンテンツ・レビューチームは新型コロナに関連する打撃の結果著しく減っていることは明らかだ。現在何人の人間がコンテンツをレビューしているのか、Facebookは正確な数字の発表を拒んでいる。
Facebook広告のようなプラットフォーム(簡単に使えて、安価に偽情報を拡散できる)が害をもたらすリスクが、パンデミックの最中ほど高くなることはほかにない。市民の安全を守るために、政府や保険期間は必要な事実や行動規範を伝えなくてはならないときにだ。
Facebookが偽情報や誤解を招く情報の温床になることは、非常事態の公衆衛生を低下させる恐れがある。
先月同社は、新型コロナ関連の正統なニュースやウェブサイトのリンクをブロックしたことを公表した。AI手動の管理に切り替えた後のことだ。
先月末Facebookは、新型コロナ用マスクの広告を排除することに失敗し、公約を果たせなかった。
同時にFacebookプラットフォームは、ユーザーが生み出す新型コロナ関連偽情報の温床でもある。塩水でうがいをしてウイルスを殺すといった偽の民間療法(殺せない!)や、「インフルエンザと同じ」(嘘!)などといって新型コロナの深刻さを軽視するような記事を、数多くのユーザーがシェアして拡散している。
画像クレジット:Muhammed Selim Korkutata/Anadolu Agency / Getty Images(画像加工済み)
[原文へ]
(翻訳:Nob Takahashi / facebook )