Facebookは、オハイオ州クリーブランドの男が自らの銃撃ビデオをアップロードしたことで非難を浴びている。その後容疑者は殺人を告白するライブビデオも投稿した。この殺人事件とその後のFacebookの対応は、凶悪なコンテンツの扱いについて問題を提起した。
Facebookの国際事業担当副社長、Justin Osofskyは声明を発表し、各事象と関連ビデオの時間経過を公開した。
Osofskyの声明は、Facebook上のコンテンツの監視責任をユーザーに委ねるものだが、会社としてもっと適切な管理が可能であることも認めている。Osofskyは、人工知能およびビデオのシェアに関する新しいポリシーが問題解決の糸口になりうること、およびFacebookは現在のレビュー手順を高速化する計画であることを語った。
「一連の悲惨な出来事を受け、当社の基準に反するビデオその他のコンテンツを、できる限り簡単かつ迅速に通報できるよう手順を見直している。今回のケースでわれわれは、最初のビデオの通報を受けておらず、2番目のビデオ（銃撃シーンを含む）の通報を受けたのは投稿から1時間45分以上経過したあとだった。3番目の容疑者がライブで告白したビデオも、通報が届いたのは中継が終了したあとだったとOsofskyは書いている。
11:09AM PDT : 第1のビデオ（殺人の意思表示）がアップロード。Facebookへの通報なし。
11:11AM PDT : 第2のビデオ（銃撃現場）がアップロード。
11:22AM PDT : 容疑者が5分間のライブビデオで殺人を告白。
11:27AM PDT : ライブ中継終了、直後に通報あり。
12:59PM PDT : 銃撃ビデオが初めて通報される。
1:22PM PDT : 容疑者のアカウントを凍結、全ビデオを非公開に。
この経緯がFacebookの監視システムの欠陥を露見させている。Facebookは、議論を呼ぶコンテンツや暴力的コンテンツの識別をユーザーからの通報に頼っている。容疑者が告白したライブビデオは別のユーザーによってすぐに通報されたが、殺人そのもののビデオは通報されず、結果的に2時間近く閲覧可能な状態にあった。
「例えば人工知能はこの作業で重要な役割を担っており、ビデオの全編が再シェアされるのを防ぐのに役立っている（ビデオの一部をシェアすることは可能で、これは大衆の認識のためであり、多くのメディアがネットやテレビで使っている手法だ）」とOsofskyは言った。
AIがいくら進歩しても、ライブ中継を暴力行為の放送に使うことをFacebookが阻止できるかどうかはわからない。ライブストリーミングはこれまでにも、銃撃、せっかん、性的暴力などのビデオ共有に使われてきた。そしてユーザーは、Facebookがクリーブランドの殺人がライブ中継されるのを許したことに怒りを表す一方で、警察官がフィランド・キャスティル氏を射殺したビデオを削除する結果となった技術的欠陥にも激怒した。Osofskyはクリーブランドのビデオについて「われわれのポリシーおよびわれわれが支持するすべてに対する挑戦だ」と言った。しかし、時としてユーザーは、政治的に重要であるという理由で暴力的ビデオを残すことをFacebookに期待する。それは微妙なバランスであり、AI単独で解決できる問題ではなさそうだ。
「Facebookが殺人を阻止することはない。AIがどれほど賢くなったとしても、『おい、そのビデオで誰かが誰かを殺しているぞ、ストリームはやめろ』と言えるようになる日は当分来ないだろう」とMike MasnickがTechdirtに書いた。「無分別な殺人や暴力が起きると、人々は答えを探しに走るが、そこには答えがないこともある。しかも無分別な暴力に絡んで使われたツールに答えを求めることが有益だとはとても思えない」
[原文へ]
（翻訳：Nob Takahashi / facebook）
