2016年のドナルド・トランプの選挙以来、Facebook やTwitterといったソーシャルメディアプラットフォーム上でのヘイトスピーチに注目が集まるようになった。活動家がこれらの企業にコンテンツの節度を改善するよう圧力をかける一方で、いくつかのグループは(ドイツ政府は関与せず)即座にプラットフォームを告訴した。
これは、出版メディアとプラットフォームメディアにかかる法律が異なり、これによりオンライン上でのヘイトスピーチの解決が厄介な問題になっているためだ。
たとえば、 New York Timesに、全マイノリティグループの虐殺を主張するオプ・エド(編集部注:寄稿の論説)が掲載されたとする。Timesはヘイトスピーチを公に出したとして告訴され、そして原告は勝訴すると思われる。しかし、このオプ・エドがFacebookへの投稿で公開されたら、Facebookに対する告訴は失敗に終わるだろう。
なぜこうした不均衡が起こるのか。通信品位法230条だ。これにより、Facebookなどのユーザーが投稿したりシェアしたものについて裁判となったとき、プラットフォームはその責任を免れるのだ。Alex Jonesと彼のウェブサイトInfowarsに対する最近の騒ぎは、230条の廃止を求める動きにつながったーしかしそれは、政府によるオンライン上の言論の規制につながるかもしれない。その代わり、Jonesが彼のヘイトを広めるためにFacebookやTwitter、YouTubeを利用しているかどうかにかかわらず、プラットフォームは積極的な行動をとり、ヘイトスピーチはヘイトスピーチとみなされるよう、ポリシーについて共同で取り組むべきだ。
230条についての基礎知識
230条はオンライン上の言論の自由の基盤であると考えられている。1990年代半ばに法案が可決され、これによりFacebookやTwitter、YouTubeはユーザーがアップロードしたコンテンツで告訴されるリスクを免れている。これがあってこうした企業は急激に成長してきた。230条がなければ、ソーシャルメディア大企業はユーザーの投稿で裁判を抱え、行き詰まっていただろう。そして投稿の事前審査が必須となり、これらの企業はいずれも自由がきかなくなっていたはずだ。
その代わり、法が施行されてから20年以上たつが、裁判所はユーザーのコンテンツに関してテック企業を訴追しようと思っても230条が障壁となるということに気づいた。230条の恩恵を受けているのはソーシャルメディアプラットフォームだけではない。シェアリングエコノミー企業も、自社を弁護するのに230条を使ってきた。たとえば、AirbnbはホストがAirbnbのサイトに投稿したものについては責任を負わないとしている。裁判ではまた、230条がデートアプリにも適用されるほど幅広くカバーするものであることが明らかになった。ある男性が、未成年ユーザーの年齢を確かめていなかったとしてデートアプリの一つを告訴したとき、裁判所は230条を理由に、アプリユーザーの年齢詐称はアプリ側の責任とはならないとして裁判を終わらせた。
ヘイトスピーチの内規
もちろん、230条はオンライン上のヘイトスピーチ野放しを意図するものではなかった。FacebookやYouTube、Twitterといったプラットフォームはヘイトスピーチの投稿を禁じる自前の広範なポリシーを有している。ソーシャルメディア企業はこれらのポリシーを実施するために、そして違反したユーザーの利用を一時的に停止したり、アクセスをブロックしたりして責任ある利用を促すために、何千ものモデレーターを雇った。しかし、最近のAlex JonesとInfowarsの件は、いかにこうしたポリシーが一貫性なく運用されうるか、というケーススタディとなっている。
Jonesは何年にもわたって陰謀論をでっちあげてきた。サンディフック小学校での銃乱射事件がやらせであったとか、民主党がグローバルで子供性的人身売買組織を運営している、といったものだ。
Facebook、YouTube、Twitterに何千ものフォロワーを抱え、Jonesのヘイトスピーチは実社会で問題を引き起こした。サンディフック事件で犠牲となった子どもの親への残忍ないやがらせ、存在しない地下から子どもを救い出すとして男が銃でワシントンD.C.のピザ屋を襲撃した事件などだ。Jonesのメッセージは非常に有害な事件をたくさん引き起こしてきた。
Alex JonesとInfowarsは最終的に、我々が数えたところ10のプラットフォームから追放されたーTwitterでさえ、最初にためらったのちに1週間使用を停止させるという、他社に同調する措置を取った。しかし、テック各社の対応の違いや遅れは、同じスピーチをそれぞれのプラットフォームがどう扱うかを如実に表した。
フェイクニュースの広まりや、ソーシャルメディアによる深まる分裂など最近の論争で問題はさらに複雑となっているが、プラットフォーム間でヘイトスピーチルールの適用が異なる事態は、230条の修正または廃止を求める声へとつながった。もし印刷媒体やケーブルニュースがヘイトスピーチを広めたとして法律上責任を負うべきとされるなら、議論がおこる。特に米国民の3分の2がソーシャルメディアでニュースをみているという事実を鑑みるとき、それならなぜ同様にオンラインにも適用されないのか、となる。テック企業に対するさらなる規制の必要性を叫ぶ声がある中で、230条は常にターゲットとなっている。
ヘイトスピーチは規制されるべきか
しかしもし、オンライン上の言論を政府が規制するのは最前の策ではないと考えるなら、230条にある議会の表現と同じだ。1990年代半ばに施行された230条は、オンラインプラットフォームは“受け取る情報にかかる最大限のコントロールをユーザーに与え、またテクノロジーが発展する将来もさらなるコントロールの可能性”を、そして“政治論における真のダイバーシティ、文化的発展の機会、知的生産活動のための無数の手段”を提供する、としている。
230条はこう続く。これは“米国のポリシーである…インターネットを使用する個人、家庭、学校が受け取る情報についてコントロールを最大化するテクノロジーの発展を促すためのものだ”。これに基づけば、230条はいまやオンラインプラットフォームに恥ずべき保護を提供していることになる。
我々がソーシャルメディアで目にするもののほとんどはアルゴリズムによって操られているという事実から、Cambridge Analyticaスキャンダル、ソーシャルメディア上でのフェークニュースの流布による深まる分裂に至るまで、1996年の議会の言葉が現代においていかに不正確な予言のカタログとなっているかがわかるだろう。230条の原文起草者Ron Wyden自身ですら、数百万という人の虐殺、そして恐ろしい犯罪の被害者や子供が殺された親への攻撃を個人が支持(または否定)したりすることが、230条が持つ力で保護されるようになるとは起草者の誰もが思いもしなかった、と認めている。
ソーシャルメディアの運用について、最近の公聴会で議会の理解不足が露呈したように、オンライン上の言論を規制することが20年後にどんな影響をもたらすかを予測するだけの能力が今日の議会にあるか、という点に関しては議論の余地があるところだ。
さらに重要なのは、新たな規制を広く適用することが必然的にスタートアップの参入を著しく阻害することにつながることだ。それは、今存在する企業を保護するという意図しない結果を招きかねない。FacebookやYouTube、Twitterは、節度を持ってコンプライアンスを扱ったり、規制が適用されるかもしれない投稿を事前審査したりするだけの力量やインフラを持ち合わせているかもしれないが、小さなスタートアップは、そのような負担に対応するとなればかなり不利な立場に追い込まれることになる。
規制の前の最後のチャンス
答えはオンラインプラットフォームそのものの中にあるはずだ。過去20年間にわたり、オンラインプラットフォームはヘイトスピーチを感知して取り除くという点でたくさんの経験を積んできた。彼らは、これまでとは違うポリシーの草案をつくるためにさまざまなバックグラウンドを持つメンバーによるチームを結成した。これまであげた収益でもって、政府の検察官から学者、人権に詳しい弁護士に至るまで、トップの人材を確保することができた。
こうしたプラットフォームはまた、彼らのプロダクトポリシーチームーポリシーを起草したりポリシーの実行状況を監督したりするーが全体的に社会においてより目立つ存在になるよう、過去数年、大量採用を行なってきた。Facebookはプロダクトポリシーチームに“前性犯罪危機カウンセラーや、ヘイト組織研究を専門とする学者、そして教師”が加わっていることを得意げに発表した。多くのエンジニアがどこに線を引くかを決める、という時代は過ぎ去ったようだ。テック大企業はポリシーの起草と実行について、かつてないほど真剣に取り組んでいる。
彼らが今すべきは、ヘイトスピーチを広めたいと考えている人がプラットフォームのポリシーの目をかいくぐることができないよう、次の段階に歩を進め、ポリシーで足並みを揃えることだ。そうした確かな行動を取る前にInfowarsのような論争が本当の悪夢になるのを待っていれば、規制の要求が高まるだけだ。ヘイトスピーチポリシーや産業にわたるスタンダードを設けるとなったときに、積極的に人材や方策を蓄えておくことで、政府の直の規制に抵抗する正当な理由を展開できるだろう。
ソーシャルメディアの巨人たちはまた、コンテンツの節度を守るための最新のアプローチにスタートアップがついてこれるよう手助けすることで社会の信頼を得ることができる。ヘイトスピーチ問題に対処する業界のコンソーシアムは間違いなくテック大企業に占有されるだろうが、ポリシーには誰でもアクセスできるようにし、幅広く利用できるようにしなければならない。
激しい競争を展開する各社が協力し合うというのは、ピンとこないかもしれない。しかしヘイトスピーチという問題、そしてそのヘイトスピーチを広めようとオンラインプラットフォームを悪用する動きを前にするとき、業界全体での対応が必要だろう。共通する脅威に直面してテック大企業が足並みを揃えたという前例はある。昨年、Facebook、Microsoft、Twitter、そしてYouTubeは“テロリズムと闘うためのグローバル・インターネット・フォーラム”を結成した。 これはオンライン上におけるテロコンテンツの脅威を抑制するためのパートナーシップだ。ヘイトスピーチとの闘いは、テロコンテンツとの闘い同様に称賛されるゴールとなる。
自制は大変な特権だ。テック大企業がその特権を維持したいなら、自前の言論の規制を支えるポリシーを整え、スタートアップやその他の小さなテック企業がそうしたポリシーや実行メカニズムにアクセスできるようにするという責任を負うことになる。
イメージクレジット: BsWei / Getty Images
[原文へ]
(翻訳:Mizoguchi)