リベンジポルノ

「ディープフェイク」リベンジポルノがバージニア州で禁止に

バージニア州は現行のリベンジポルノ法を拡張し、最近増え始めた機械学習を利用してビデオや画像を加工する「ディープフェイク」を対象に加えた。

米国時間7月1日に発効した同法は、本人の許可なく裸の写真やビデオをシェアすることを違法とするもので、本物であるかフェイクであるかを問わない。識別が困難なディープフェイク画像や動画だけでなく、Photoshopなどで加工されたものなどあらゆる加工済み画像や動画も含まれる。

バージニア州は、2014年以来リベンジポルノ法が施行されている。しかし、ソフトウェアの進歩によって普及した加工済みの画像や動画を適切に扱っていなかった。

驚くべき速度で進化する技術に、州や国の立法府はついて行けていない。ディープフェイクによるリベンジポルノの被害者は、現行法が対応していないために拠り所がなかった。そう、ディープフェイクポルノは実在するのだ。DeepNudeというアプリは、世間からの当然の非難を受けて作者が取り下げるまで、ニューラールネットワークを利用して着衣の女性を裸の画像に変換していた。

立法府もさまざまな形で対応している。例えば、米国議会ではDEEPFAKES の責任に関する法案が、Yvette Clarke（イベット・クラーク）下院議員（民主党・ニューヨーク州選出）によって提出された。同法は、加工済みメディアを本物のビデオや画像として公開、シェアすることを禁止している。

提案されている連邦法は、人物を模倣したフェイクビデオやフェイク画像を広い範囲で規制している。合成メディア・コンテンツを公開する者は、それが加工あるいは生成されたものであることを「削除不可能なウォーターマークおよびテキストによる説明」によって告知する義務を負う。同法によって被害者は、作者を訴訟したり法廷で「自らの名誉を回復する」権利を得る。

英国政府は、悪質で侮辱的なデジタルコンテンツの高まりを受け、合意に基づかない性的画像の作成・公開に特化した法案を検討している。

同法を検討している委員会は、リベンジポルノだけでなく、ディープフェイクポルノや、Bluetoothなどを利用して近くにいる人に性的画像を送りつけるサイバーフラッシングなどの行為も対象にしている。

[原文へ]

（翻訳：Nob Takahashi / facebook ）

Facebookがリベンジポルノを検出できる新たなAIテクノロジーを発表

Facebookは米国時間3月15日、人工知能を使った新たなツールを発表した。そのツールとは、リベンジポルノの検知を手助けするというものだ。かなり個人的な写真がオンラインに投稿され、そして同意のない状態でシェアされると、写真に映っている人にその後、破壊的な結果をもたらすことになりえる。このテクノロジーでは、AIと機械学習を使ってFacebookやInstagramで許可なしにシェアされたヌードに近い写真やビデオを検知することができる。

今回の発表は、これより先にFacebookが展開してきた写真マッチングテクノロジーのパイロットに続くものだ。このマッチングではユーザーが直接、個人的な写真やビデオをFacebookに提出するようになっている。被害者の団体と提携して展開されているこのプログラムは、そうした写真がプラットフォームでシェアされるのをフェイスッブックが阻止できるよう写真の「デジタル指紋」を作る。これは、Facebookが現在、児童虐待の写真がサイトに投稿されるのを防ぐのに使用しているテクノロジーに似ている。

しかしながら、リベンジポルノに関する新しいAIテクノロジーでは、被害者は報告する必要はない。被害者はコンテンツを報告しようと思っても時に報復を恐れているため、報告を不要とするのは重要なことだ、とFacebookは説明する。もしくは、写真やビデオがシェアされていることに被害者が単に気づいていないこともある。

新しいシステムそのものがどのように機能するか詳しい説明はなかったが、単にヌードを検知する以上のものであるとのことだ。

システムが写真やビデオを検知すると、Facebookのコミュニティ運営チームの特別な訓練を受けたメンバーが写真をレビューし、Facebookのコミュニティ基準に違反するようなら削除する。ほとんどのケースでFacebookはその結果としてアカウントを使えないようにする。もし、そうした措置が間違いである可能性があるなら、その旨をアピールすることはできる。

今回のテクノロジーとすでに展開中のパイロットプログラムに加え、Facebookはまた、リベンジポルノの報告に関する他の手順をどのように改善できるか見直した、とも語っている。例えば、被害者は報告後に素早い対応を求めていて、ロボットによる返答は求めていない、ということが明らかになった。また他の被害者は報告ツールの使い方を知らず、存在すら知らなかったりもした。

リベンジポルノ被害を受けると、その後に不安やうつ、自殺願望、PTSDなど精神面で困難を抱えることがあり、リベンジポルノ問題を解決するのは必要不可欠だ、ともFacebookは述べた。そして、被害後に職を失ったり、同僚との関係が壊れてしまったりと、キャリア面で影響を受けることもある。加えて、昔ながらのコミュニティに所属する人がつまはじきにあったり、コミュニティから追放されたり、迫害を受けたり、または肉体的に危害を加えられたりするかもしれない。

被害者からの通報について「被害者が耐えているトラウマを認識する」方法を探していなかったことをFacebookは認めている。通報のツールとプロセスがより「簡単、クリア、そして共感できるもの」になるよういま再評価を進めている、とも語った。

Facebookはまた、専門家と開発したFacebookのSafety Centerの中に、被害者をサポートするハブ「Not Without My Consent」も立ち上げる。このハブは、被害者がサポートを受けられる団体や手段にアクセスできるようにし、Facebookにコンテンツを報告する手順を詳しく案内する。

Facebookが言うには、今後数カ月内にリベンジポルノヘルプライン（英国）、Cyber Civil Rights Initiative（米国）、Digital Rights Foundation（パキスタン）、SaferNet（ブラジル）、大学教授 Lee Ji-yeon （韓国）といったパートナーと共同でより地域や文化に根ざした被害者サポートツールキットを構築することにしている。

リベンジポルノはパブリック・シェアリングのための世界規模プラットフォームを提供することに伴う多くの問題の一つだ。Facebookはさまざまな面での失敗を白状し始めている。この失敗には、データプライバシー違反や偽情報の拡散、オンラインハラスメント、いじめなどが含まれる。

CEOのMark Zuckerberg（マーク・ザッカーバーグ）氏は最近、同社のプロダクトを、暗号化して相互運用されるメッセージネットワークに統合するというプライバシー重視策を発表した。しかしこの動きはFacebook内部の騒動を巻き起こし、複数のトップが社を離れることになった。

社会からの要望に応える形でさまざまな変革が今後予定されているが、多くの人がすでにFacebookへの信頼を失くした。12歳以上の米国民のFacebookユーザー数の割合が67％から62％へと、この10年で初めて減少した、とEdison Researchは指摘している。それでもFacebookはいまだに巨大なプラットフォームであり、20億人超のユーザーを抱える。たとえユーザーがFacebookをやめることを選んだとしても、それでもソーシャルネットワークを使っているユーザーによってリベンジポルノやオンラインいじめの被害者になることを防げるわけではない。

イメージクレジット: Jaap Arriens/NurPhoto

［原文へ］

（翻訳：Mizoguchi）

Messengerで自分に自分のヌード写真を送ればよい――Facebook、リベンジポルノ防止手法をテスト

Facebookはオーストラリアでリベンジポルノの拡散を防止するための新しい手法をテストしている。ABC（Australia Broadcasting Corporation）の記事によれば、この手法では、被害者になりそうだと感じたユーザーが自分自身のヌードその他の写真、ビデオをFacebook Messengerを通じて自分自身に送ることになる。Facebookはコンテンツを解析してハッシュを生成し、「公開に同意を得ていない露骨な内容」とタグづけし、その後の拡散を防ぐ。

Facebookはこの実験をe-Safetyというオーストラリア政府の機関と協力して実施している。なんらかの理由でリベンジポルノの対象になりそうだと感じた場合、e-Safetyに連絡して助力を得ることができる。e-SafetyはユーザーがFacebook Messengerを利用することを勧めるかもしれない。この場合、Facebookはアップロードされたコンテンツを解析し、将来同じ画像、ビデオが投稿された場合に備える。

e-Safetyのコミッショナー、Julie Inman GrantはABCのインタビューに対して「Facebookは写真、ビデオそのものを保存しない。人工知能と機械学習テクノロジーを利用してコンテンツを処理し、取り出したハッシュのみ保存する。誰かが同じコンテンツをアップロードしようとすると、Facebookはそれを認識し、アップロードを拒否する」と語った。

今年4月、Facebookは新しい写真のマッチング・システムを利用し、すでにリベンジポルノだとタグづけされた写真を認識し、再シェアを防ぐという対策をアメリカで導入している。

Facebookは女性海兵隊員がFacebookとInstagramでハラスメントの被害を受けた後、同種事件の再発を防ぐ対策の導入を始めていた。

ABCの記事でFacebookはヌード写真などをMessengerで自分自身に送ることによりリベンジポルノを防ぐ手法はオーストラリアを含めて4カ国でテスト中だと語っている。他の3カ国がどの国であるかは不明だ。

私はFacebookにコメントを求めておいたので、返事があればフォローする。

画像： Erik Tham/Getty Images

〔日本版〕Facebook Messengerでは送信相手に自分自身を指定することができる。またhttps接続なのでトラフィックは暗号化されている。

[原文へ]

（翻訳：滑川海彦@Facebook Google+）

Twitterが新しい利用規約を追加、今度はリベンジポルノを禁止

Twitterはユーザー基盤を構成する雑多な参加者たちをなんとかコントロールしようと、（実り少ない）努力を続けているが、その最新の対策として、世間では遠回しに「親密なメディア」（intimate media）と呼ばれているものの、監視方法の変更を発表した。

この最新のルール変更もまた、Twitterの有害な問題の1つと戦うことが意図されている：すなわち、ネットワークを使ったリベンジポルノの蔓延への対抗だ。

今年の初めTwitterは、Rob Kardashianによってばら撒かれた、彼の元ガールフレンドのヌード写真に対する対応の遅れによって、世間から激しい批判に晒された。それらの写真は、削除されるまでに30分以上もサイトに晒され続けた。

Twitterの新しいポリシーは、なにびとも被写体の同意なしに撮影された、あるいは流出した「親密な写真あるいは動画」を、投稿または共有してはならない、というものだ。

Twitterによる「密接なメディア」の定義には、「ヌード、部分的ヌード、かつ/または性行為」などを含む、隠しカメラで撮影されたコンテンツ；ユーザーが他者の生殖器、臀部、もしくは胸を見ることができるような「クリープショット」（近付いての隠し撮り）と呼ばれる映像；プライベートな状況で撮影され公開を意図していなかった写真もしくは動画；そしてプライベートなものとみなされる可能性のあるその他の任意の映像などが含まれている。

同社は、合意に基くヌードとアダルトコンテンツの中には投稿を許されるものもあり、それによってポリシーに違反する可能性のあるものに対して、タイムリーに対応できないという大きな問題も生じていることを指摘している。

新しいポリシーは以下のようなものだ：

私たちのチームが誤って、合意の上で投稿された親密なメディアを削除することがないように、私たちは実際の強制措置を取る前に、当事者もしくは権限のある代理人からのレポートを要求することがあります。わたしたちはそうしたレポートには電子メールで対応し、当事者が本人であることを証明する書類の提出を求めます。この書類はTwitterによるケースの評価が終わると同時に破棄され、第3者とは決して共有されません。このコンテンツに関して誰がレポートしているのかの詳細は、違反をしていると指弾されている人には決して伝えられることはありません。

幸いなことに、この証明基準の負担は「クリープショットもしくはアップスカート」には適用されない（アップスカートとは腰と膝の間の部分を意味する隠語）。そのような場合にはTwitterは証明書類を要求しない。「被害者にとって、そのコンテンツの中に写っているのが、自分であるか否かを判別するのはしばしば困難」だからだ。

Twitterが、あるコンテンツが実際に同意なしに配布されたと認定した場合、新しいルールにのっとり、違反したアカウントは停止される。リツイートを行った者たちへは、迷惑なツイートを削除するように要請される。その際には、もしポリシーへの違反が続く場合には、Twitterアカウントが凍結されるという警告が添えられている。

もちろん、私の尊敬する同僚のひとりが指摘しているように、これらはすべて理論上の話である。なぜならTwitterは、サイト上でのハラスメントやヘイトスピーチも、とっくの昔に禁止していて――それ以上はみなまで語らずともお分かりだろう。

[原文へ]
（翻訳：Sako）