ユーザーが自分のヌード画像をアップロードするリベンジポルノ対策でFacebookが自己弁護

Facebookの安全性担当のトップAntigone Davisが、今オーストラリアでテストしているリベンジポルノ対策について説明している。この対策では、ユーザーが自分のヌード写真やビデオをMessengerに送り、Facebookはそれに、同意のない露骨なメディア(non-consensual explicit media)というタグをつける。

説明の中でDavisは、こう書いている: “この小規模なパイロット事業では、人びとが写真を前もってFacebookに送り、それがまったく共有されないようにする、という緊急的手段をテストしたい。この事業の参加/利用は、完全に自由意志である。それは予防的措置であり、それにより、画像が広範囲に共有される劣悪な状況を防止できる”。

Facebookはこれを、オーストラリア政府のeSafety部門と共同で行っており、それにより個人的な画像が本人の同意なく共有されることを防ぐ。リベンジポルノをやられる危険性を感じた者は、eSafetyに連絡する。すると同部局は、Messengerを使って自分のヌード写真を自分宛に送るよう、教える。今後はFacebookのハッシングシステムが画像を認識するので、画像そのものを同社のサーバー上に保存する必要はない。

eSafetyは画像にアクセスできない、とDavisは明言しているが、“FacebookのCommunity Operationsチームの専門的に訓練された社員”が、ハッシングする前に画像を検分することはある、という。ハッシングが終わったら写真を送った者に通知して、写真をMessengerから削除するよう求める。その時点で、Facebookはその画像をサーバーから削除する。

FacebookのCSO(Chief Security Officer) Alex Stamosのツイートによると、人びとが自分の写真を送ることに多少のリスクは伴うが、それは、“人びと(主に女性)が、非合意のあからさまな画像(NCII)をポストされることをやめさせられない、という、毎日のように起きている深刻で現実的な危害と対比した場合には”、許容できるリスクだ、という。

NCIIは、non-consensual intimate imagery(非合意の露骨な画像)の略だ。Stamosはさらに続けて、Facebookはデータを保護するための対策を講じており、復元不可能なハッシュだけを保持する、と言っている。

しかし一部には、画像のアップロードを必要としない、もっと良い方法があるはず、との批判もある。たとえば画像のハッシングをローカルにやって、ハッシュ値だけをアップロードするやり方だ。また、未成年者が自分の写真を送らないようにするための、年齢制限措置はあるのか?

ハッシュの計算をローカルでやれ、という説に対してStamosは、“写真のフィンガープリントアルゴリズムは通常、悪用を防ぐためにクライアントには含まれていない。人間の目が不正な報告を検出して防げるための方法が、必要である”、と応えている。

[原文へ]
(翻訳:iwatani(a.k.a. hiwa

Facebookがリベンジポルノ防止策―マークされた画像の拡散を禁止

Facebookは新しい写真マッチング・テクノロジーを用いて不適切な写真の拡散を防止する対策を実装した。これは過去にリベンジポルノ(困惑させることを目的として本人の承諾なしに拡散される写真)と報告された画像を新たに共有することを禁じるものだ。以前にFacebookが削除した写真を再度投稿すると「この写真の投稿はFacebookの利用約款に違反する」というポップアップが表示される。そのような写真はFacebook本体はもちろん、MessengerやInstagramでも共有することはできない。

Facebookのグローバルでの安全対策の責任者、Antigone Davisは私の取材に対して、「こうした画像の拡散は被害者に独特のひどい苦痛を与えることを考慮して、われわれは〔リベンジポルノ〕の防止に力を注いだ」と述べた。

ここでDavisが述べているのは 本人の承諾なしに共有された「親密な状況の写真」が被害者の93%に「著しい精神的ダメージ」を与えているという調査があるからだ。同時に82%の被害者に「生活の他の面にも重大な支障をもたらしている」という(US Victims of Non-Consensual Intimate Images)。

Facebookは以前から「不適切な画像」を報告できるシステムを取り入れているが、Daviによれば「リベンジポルノに関してはさらに厳しい態度が取られることになり、定義も明確化された」という。多くの場合にFacebookはリベンジポルノを投稿したユーザーのアカウントを停止する。

Facebookはリベンジポルノの防止を目指す団体、Cyber Civil Rights InitiativeRevenge Porn Helplineと協力して被害にあった人々に対する支援を行う。

リベンジポルノは重大な問題となっている。2016年のData & Society Research InstituteおよびCenter for Innovative Public Health Researchのレポートによればアメリカでは25人に1人が承諾なしに画像を拡散される被害にあっている。 FacebookとInstagram上で海兵隊員の秘密グループが女性の同僚の不適切な写真を共有していたスキャンダルが最近発覚している。

昨年、Facebookの機械学習応用エンジニアリングの責任者、Joaquin CandelaがTechCrunchに語ったところによると、FacebookのシステムはAIを利用して不適切な写真を検知することができという。しかしリベンジポルノと断定するためにはやはり人力が必要なようだ。

Davisは「現在、われわれは〔リベンジポルノの発見に〕AIを用いていない。親密な写真が本人の同意がないまま共有されようとしているのかどうかを判断するには文脈の理解がきわめて重要だ」と述べた。

画像: Bryce Durbin

[原文へ]

(翻訳:滑川海彦@Facebook Google+