フランスでヘイトコンテンツの24時間以内の削除をプラットフォームに強制する法案が可決

フランスの下院議会は、論争の的となっていた法案を可決した。法案はソーシャルネットワークとオンラインプラットフォームにおけるヘイトスピーチに対抗するものだ。

画像クレジット:Stéphanede Sakutin / AF / Getty Images

私が既に2019年に説明したように、これでオンラインプラットフォームは、フラグが立てられた反社会的なコンテンツを24時間以内に削除しなければならなくなる。さもなければ、この法律に違反したとして毎回多額の罰金を支払う必要が生じる。

反社会的なコンテンツとは、どんなものを指すのだろうか? 基本的にオフラインの世界で違反行為あるいは犯罪と見なされるものは、今やオンラインプラットフォームでも、反社会的なコンテンツと見なされることになる。特に殺害予告、差別、ホロコーストの否定といったものは、まっ先に挙げることができる。

最も極端なカテゴリーとして、テロリストによるコンテンツや児童ポルノについては、オンラインプラットフォームは1時間以内に対応しなければならない。

オンラインのヘイトスピーチが手に負えないものになってきている一方で、多くの人は、オンラインプラットフォームによるコンテンツの検閲が、あまりにも性急なのではないかと懸念を抱いている。そうした企業は罰金が科されるリスクを冒したくないので、法律に違反していないコンテンツでも、確信が持てないために削除する可能性がある。

基本的にオンラインプラットフォームは、自分自身を規制する必要がある。その上で政府は、彼らが適切な仕事をしているかどうかをチェックする。「銀行に対する規制機関と同じようなものです。彼らは、銀行が効率的なシステムを施設していることを確認し、そうしたシステムの運営を監査します。これについても同じように考えるべきでしょう」と、フランスのデジタル大臣であるCédric O(セドリック・オー)氏は2019年のインタビューで私に述べていた。

罰金には複数のレベルがある。最初は数十万ユーロ(数千万円)だが、悪質なケースの場合には、上限としてその会社の全世界の年間収益の4%に達する可能性もある。視聴覚最高評議会(CSA、Superior Council of the Audiovisual)が、こうした案件を担当する規制当局となる。

ドイツは既に同様の規制を採択しており、欧州連合レベルでの議論も続いている。

関連記事:What does ‘regulating Facebook’ mean? Here’s an example

原文へ

(翻訳:Fumihiko Shibata)

YouTubeのCEOがヘイトスピーチ対策の現状と将来を語る

YouTubeのCEO Susan Wojcicki(スーザン・ウォシッキー)氏は、保守系のコメンテーターSteven Crowderを排除しない同社の決定を擁護している。彼女のそのコメントは、この右翼評論家によるVoxのホストCarlos Mazaの取り上げ方がどれだけ人種差別や同性愛者嫌悪の中傷的言葉を常に使っていても、同社のポリシーには違反していない、という調査結果が出てから一週間後に語られた。Crowderには、380万あまりのサブスクライバー(チャネル登録者)がいる。

彼女はアリゾナ州スコッツデールで月曜日に行われたCode Conferenceで、RecodeのPeter Kafkaにこう語っている。「YouTubeに対するそのような批判は、真剣に受け止めることが重要だ。またそういうポリシーは公平に適用しなければならない。公平さを欠くと、ユーザーからの苦情も増える。インターネットの上には、ラップもあれば、夜晩くのトーク番組もある。ユーモアもある。そしてそれら多くのコンテンツの中には人種差別や性的差別の言葉がたくさん使われている。それらをすべて取り締まることは不可能だから、目立つもの一つ二つを取り締まると、あれはどうだ、これはどうだ、という苦情が必ず殺到する。だから一定のポリシーを斉一公平に適用することが、きわめて重要だし難題でもある」。

VoxのStrikethroughのビデオ製作者Mazaは先週Twitter上で、YouTubeが虐待や同性愛者嫌悪、いじめなどを盛大に許容している、と非難した。彼は曰く、「何年も前からだ。いろんな機会に警告してきた。でもYouTubeは、どんなポリシーも強制していない。CrowderにはYouTubeのサブスクライバーが300万いるから、ルールを適用したら今度は反保守的のラベルを貼られてしまうのだ」。

“私のことを2年間もゲイだラテンアメリカ系だと中傷してきたCrowderをYouTubeは罰しないことに決めた。”

結局YouTubeはCrowderのチャネルの収益化を停止し、ビデオ上の広告で稼げないようにした。YouTubeはそれらのビデオを、「広範なコミュニティを傷つける言語道断な行為であり、YouTubeのパートナーポリシーに違反している」、とした。しかしCrowderは、左翼を批判するスローガンを印刷したTシャツなど、商品も売っている

批判の高まりを受けてYouTubeは、ヘイトスピーチに対するポリシーを変えた。それにより、ネオナチや白人至上主義など極端なイデオロギーを宣伝する何千本ものビデオが削除された。

Wojcickiによると、これらの変更は同社が社内規制をより厳格にし、また外部の規制にも対応するために今行っている多くの作業の一環だそうだ。

WojcickiはLGBTQのコミュニティにも気を使って、彼らに謝罪した。自分にそれができたなら、Crowderの収益化の停止はもっと早く実施しただろう、と彼女は言っている。「われわれの決定がLGBTQのコミュニティを傷つけたことは承知している。それはまったく、私たちが意図したことではなかった。対策はもっと早めにやるべきであり、自分たちの本意でなかったことの表明と謝罪も、もっと早くすべきだった」、と彼女は言う。

YouTubeは、ビデオから収益を得るクリエイターに関して「より高いスタンダード」を設けている、とWojcickiは説明するが、ユーザーをヘイトスピーチから護るポリシーの採用は、ずいぶん遅かった。

Kafkaの的を絞った質問を適当に躱(かわ)しながらWojcickiは、今週がYouTubeにとって厳しい週だったと何度も繰り返し、質問への直接の答を避けた。

彼女は曰く、「高品質なコンテンツの提供に注力したいが、意見や物の見方の多様性を排除したくはない。多くの人たちやクリエイターを困らせるような事態には、私たちも困惑している。今週は、そういう意味で不運だった。多くの人びとに迷惑をかけた。厳しい仕事だけど、YouTubeを自分の情熱の追究のために有意義に利用している方々のお話もたくさん聞いているから、それらにはとても勇気づけられている」。

関連記事: YouTube will let bigot monetize if he removes link to homophobic merch…偏見のようなビデオでも性差別的商品へのリンクがなければYouTubeはOK(未訳)

[原文へ]

(翻訳:iwatani、a.k.a. hiwa

SpotifyもAlex Jonesのヘイトコンテンツを削除、YouTube、Facebookに次ぎ三社め

一週間あまりの間に三つのテクノロジー企業が、Alex Jonesの人騒がせ的で極右的で陰謀説のコンテンツに対する態度を決めた。その三番目の企業は、昨日(米国時間8/1)一部のコンテンツを削除したSpotifyだ。同社が5月に発表したヘイトコンテンツに対するポリシーに、Infowarsのポッドキャスト番組の一部が違反している、とされた。同社のアクションは、Jonesのビデオに対するYouTubeFacebookの罰に続くものだ。それらのビデオには、イスラム教排斥や性的少数者の排撃、児童虐待など、両社のポリシーに違反するコンテンツが含まれているとされた。

水曜日(米国時間8/1)のBloomberg宛ての声明で、Spotifyはこう述べている:

弊社はヘイトコンテンツの報告を真剣に受け止め、コミュニティがマークしたポッドキャスト番組や曲は、すべて調べている。Spotifyは、‘The Alex Jones Show’ポッドキャストの特定の番組を、弊社のヘイトコンテンツに関するポリシーに違反しているため削除したことを、ここに確認する。

Spotifyは削除した番組や違反したとされるポリシー条項を明かしていないが、同社のポリシーアップデートのページに引用されている削除候補には、“人種や宗教、障害、性的同一性、性的指向性などを理由として人びとに対する憎しみや暴力を喚起することが主たる目的であるコンテンツ”、とある。そのポリシーはまた、これらの違反が必ずしも“敵対的で露骨で野卑なコンテンツ”を含んでいなくてもよい、としている。それよりもむしろ、憎しみを生じさせることを意図しているヘイトスピーチ、という包括的な言い方をしている。

Infowarsのポッドキャストのそのほかの番組は、今でもSpotifyで提供されている。Apple PodcastやSticherなどと同様だ。

このほかSpotifyは5月に、R. KellyとラッパーXXXTentacion、およびTay-Kの音楽を取り下げている。

Spotifyは、ヘイトスピーチをモニターするために、以下の人権団体と協力している: The Southern Poverty Law Center, The Anti-Defamation League, Color Of Change, Showing Up for Racial Justice(SURJ), GLAAD, Muslim Advocates, International Network Against Cyber Hate。またモニタリングツールSpotify AudioWatchを内製して、ユーザーがヘイトコンテンツにマークをつけるよう、求めている。

しかしインターネットという道は、安全であると同時に、誰もが自由に通れる道でなければならない。安全と自由の‘安全な両立’は、現状ではまだ、きわめて困難な目標だ。

[原文へ]
(翻訳:iwatani(a.k.a. hiwa

YouTubeがAlex Jonesのチャネルに罰を適用、ヘイトスピーチと児童愛護に関するポリシーに違反と

Googleは、InfowarsのファウンダーAlex JonesのYouTubeチャネルに、このビデオプラットホームの児童愛護とヘイトスピーチに関するポリシーに違反したとして罰を与えた。また、4つのビデオが削除された。罰の内容は、Jonesのチャネルの90日間ライブストリーミング禁止だ。

Googleのプレス向け声明はこう言っている: “弊社には何年も前から、児童愛護とヘイトスピーチに関するポリシーがある。話者やチャネルが何であれ誰であれ、ビデオのコンテンツに基づいてそのポリシーを一貫して適用している。また弊社には明確な三振法があり、三か月以内に三度罰を受けたチャネルは閉鎖する”。

The Vergeによると、削除されたビデオのうち2つには、イスラム教徒に対するヘイトスピーチがあり、3つめには性同一性障害者などに対するヘイト、4つめでは大人が子どもを地面に押し付け、字幕「リベラリズムはこうやって防げ」が表示された。

4つの削除されたビデオがJonesのチャネルに対する一つの罰でしかないことが、YouTubeのモデレーションポリシーに対する疑念と批判を招(よ)んでいる。それらの批判は、プラットホームのルールに違反しているビデオ一つ々々について、個々に罰が適用されるべき、と主張している(==違反ビデオが4本なら計4つの罰があるべき)。違反件数の多い違反常習者に対しては、それでなければ罰の効果がない、と批判者たちは主張している。

Jonesのチャネルは、フロリダ州パークランドの17名が死亡した銃撃事件で死ななかった人たちは“被害者を演じた連中”だ、とする陰謀説を宣伝するビデオにより、2月に罰を受けている。しかし罰は有効期間が3か月なので、Alex Jonesのチャネルには現在、アクティブな罰が一つしかないことになる。三振までは、遠い。

バカバカしくていやらしい考えを宣伝している、おかしな人物にすぎないJonesだが、でも彼には影響力があり、彼のInfowarsは悪質な陰謀説をたくさん広めてきた。たとえば彼は今、小学生児童20名を含む27名が殺されたSandy Hook銃乱射事件は、でっち上げだったと主張して、遺族から訴えられている。2012年12月のあの銃撃事件以来、被害者の遺族は陰謀説を掲げる人びとから、いじめのターゲットにされてきた。

YouTubeによる罰の数日前にはFacebookが、JonesがRobert Muellerに関して毒づいているビデオの取り下げを拒否した。そのビデオでは彼は、その司法長官直属特別顧問が子どもに対する性犯罪を犯したと非難し、彼を撃つ真似をした。FacebookがBuzzFeed Newsに語っているところによると、ビデオの中のJonesのコメントは本物と確認された彼自身のページにポストされたものであり、コミュニティのスタンダードに反していない、なぜならそれは、暴力を犯す意図を本気で述べている、と信じられるような声明ではないからだ、という。

TechCrunchは、Infowarsにコメントを求めている。

[原文へ]
(翻訳:iwatani(a.k.a. hiwa

Facebook、「ユダヤ人嫌い」問題を受け、ターゲット広告の人力監視を約束

Facebookは、ユーザープロファイルの興味分野や勤務先情報を広告ターゲティングに利用することが、攻撃的行為を生む可能性を予知できなかった。 Facebook COO Sheryl Sandbergは現在の状況を詫び、今後Facebookは広告ターゲティングをすべて、手動でチェックすると発表した。

Facebookは、先週ProPublicaが「ユダヤ人嫌い」や「ユダヤ人を焼く方法」などのキーワードでターゲットしたFacebook広告を出せることを指摘した後、広告ターゲティングにユーザー生成情報を利用することを全面的に禁止した。Sandbergによると、Facebookは「看護師」や「歯科」などユーザー生成によるターゲティングオプション上位5000件を精査した。新しいキーワードはすべて人間による厳格なレビューを経てから登録される。

Facebookは、侮辱的な広告ターゲティングを禁止するためのルールを明確にするとともに、人間の管理者によるチェックを強化する。さらにFacebookは、広告サービスの悪用に関して、ユーザーインターフェースや技術的問題と同じ方法で通報できるしくみを検討している。

「これまでFacebook上でのヘイト行為を禁止する厳格なポリシーを長年運用してきた。私たちのコミュニティーは、このポリシーも入念な注意と配慮をもってFacebookに適用させる権利がある」

Facebookは広告主が「ユダヤ人嫌い」をキーワードにターゲットすることを許している。画像出典:ProPublica

このスキャンダルは、Facebookが自社の広告システムが悪用される可能性を「予期していなかった」ことをSandbergが認めたこととあわせて、最近Facebookで起きている多くの問題が認識の甘さに起因することを象徴している。2016年の米国大統領選挙でロシアスパイが政治的広告を買ったことを始め、Messengerの位置情報機能がユーザーのいた場所を突き止めることに悪用されたり、ユーザー滞留を優先するあまりニュースフィードにクリックを誘う偽ニュースを流していることまで、一連の問題は、Facebookの理想主義的なリーダーシップが、最悪のシナリオ予測することよりも、善意の利用場面の推進に長けていることを証明している。

Facebookのもつパブリッシングや広告、コミュニケーションの規模と力を踏まえると、この会社は人間の本性の邪悪な側面を予見することを学ぶべきだ。おそらくそれは、熟練の懐疑論者を雇い、悪用を発見する正義のハッカーとして活用することを意味しているのだろう。

Sandbergの投稿全文は以下で読める。

[原文へ]

(翻訳:Nob Takahashi / facebook

Microsoftがヘイトスピーチを減らすための新しいリソースを発表(コンテンツを削除された方も反論を言える)

LAS VEGAS, NV - JANUARY 10:  A general view of the Microsoft booth at the 2012 International Consumer Electronics Show at the Las Vegas Convention Center January 10, 2012 in Las Vegas, Nevada. CES, the world's largest annual consumer technology trade show, runs through January 13 and is expected to feature 2,700 exhibitors showing off their latest products and services to about 140,000 attendees.  (Photo by David Becker/Getty Images)

Microsoftが今日(米国時間8/1)、同社の消費者サービスのユーザーのためのブログで、ヘイトスピーチを減らすための新しいリソースを紹介している。そのリソース(専用のフォーム)を使ってユーザーは同社に直接、ヘイトスピーチを報告し、あるいは削除されたコンテンツの復活を訴えることができる。

TwitterやFacebookなどのソーシャルネットワークにおける、特定のオンラインコミュニティの中での安全対策は、多くの人が知っている。たとえば先週Twitterは、テロを宣伝したとして停止されたアカウントのリストに、新たに23万5000のアカウントを加えた

Microsoftはこれまでも、同社のサービスの上でテロリストのコンテンツが広まることを、積極的に防止してきたが、Twitterなどの努力に比べるとそれらはあまり知られていない。同社のOutlook, Skype, Xbox, OneDrive, Office 365などの製品やサービスは数百万のユーザーが利用しているが、いずれもSnapchatやInstagramのようなWeb上の花形新人に比べると、地味で目立たないのだ。

こういう地味なサービス上では、大方の対話が人畜無害だが、でもそんなMicrosoftでさえ、憎しみに満ちた不穏当でときには不法でさえあるコンテンツに対する、完全な免疫は有していない。Microsoftは定常的に、ヨーロッパの“忘れられる権利”の訴えに対応しているし、リベンジポルノや著作権物の無断使用、違法なコンテンツなどの削除要請にも応じている。

明らかにそんな努力の延長としてMicrosoftは、このたび、二つのフォーム(form, 提出書式)を提供している。ひとつはコンテンツを報告するため用、そしてもうひとつはコンテンツを復帰させる用だ。現時点でMicrosoftはすでに、不適切なコンテンツの削除リクエストを受け入れ、それらの削除の可否を個別に検討している(リクエストの専用フォームはなかったが)。

MicrosoftのCOSF(Chief Online Safety Officer, オンラインの安全性に関する最高責任者)Jacqueline Beauchereは、新しいフォームに関するブログ記事で、こう述べている: “弊社がホストしている消費者サービス上の、許されないコンテンツの削除に関しては、従来からの‘通告して取り下げる’やり方を今後も継続する。新しいフォームは、その検討プロセスの質と速度の向上を目的としている”。

これらの新しいリソースはもっぱら、ヘイトスピーチを減らし、コンテンツを取り去りたい側と、取り去られた側の両方に公平に発言の機会を与えることによって、コミュニティを大きく育てることを、ねらっている。

[原文へ]
(翻訳:iwatani(a.k.a. hiwa))