Facebookは言論の自由ではない、暴言に最適化された増幅アルゴリズムだ

Mark Zuckerberg(マーク・ザッカーバーグ)氏は10月17日に講演を行い、「すべての人に発言力を与える」こと、そして「できる限り表現の自由の定義を広く保つ」ための戦いを称賛していた。もちろん、それはいい考えだ。表現の自由は、彼の道標ではないにしても、リベラルな民主主義の道標だ。それに反論する人間はいないだろう。

問題は、Facebook(フェイスブック)が言論の自由を与えていない点だ。それが与えているのは、自由な増幅だ。最初のころのFacebookのように、誰かのページや暴力的な投稿を読むために、そこまでわざわざナビゲートしなければならないとしたら、たとえ嘘であろうが憎悪に満ちた内容だろうが、ほとんど問題にされない。

だが人々がFacebookで実際に読んでいるのは、自分のニュースフィードだ。その中の投稿は、すべての人に同等の発言力を与えられた結果として表示されるわけではない。厳格な時系列に沿って表示されるわけでもない。私たちがFacebookで読んでいる内容は、完全にFacebookのアルゴリズムによって選ばれたものだ。ニュースフィードが自由な言論の場であり、増幅もほとんどされない場だと勘違いしている人からしてみれば、めちゃくちゃ排除され、めちゃくちゃ検閲されている場所だ。

では、増幅とはなんだろう?投稿内容には2つの形式がある。通常のネイティブコンテンツは、エンゲージメントを高めるアルゴリズムにより最適化される。これは、人々にFacebookでより長い時間を過ごさせるためのものだ。それにより、増幅されたもうひとつの形式のコンテンツ、つまり有料広告に触れる時間が長くなる。

もちろんこれは完璧ではない。ザッカーバーグ氏が講演で述べていたように、Facebookは捏造記事や誤った医療情報などが拡散しないように阻止する努力をしている。それがなくともアルゴリズムによって排除されるにも関わらずだ。しかしザッカーバーグ氏は、有料広告による政治的な誤情報の拡散は阻止しないと決意している。

この決断には、私は個人的には同意できないし、分別のある人なら、合意しにくい問題だろうと私は考える。ところが、それを言論の自由を擁護するためだと主張するのは、非常に不誠実なことだと私は感じた。もし誰かが、どこかのプラットフォームなりネットワークに露骨な偽政治広告を出そうとして掲載が拒否されたとき、それを言論の自由に対する攻撃だと真剣に考える人はいるだろうか?いるはずがない。それに対する反論には、まともに応じる必要もない。

だがさらに深刻なのは、アルゴリズムが内容を感知していなければ公正だとFacebookが考えているらしい点だ。ザッカーバーグ氏が人々に発言権を与えることに言及したとき、彼が本当に意味していたのは、Facebookのアルゴリズムによって選ばれた人に発言権を与えるということだ。「人には大規模に自己表現をする力があります。それは世界の新たな権力、第5権力です」と彼が発言したとき、その真意は、Facebookのアルゴリズムこそ第五権力だという点にあった。

その信念とは、明らかに、法律が求め社会契約が示唆する必要最低限のことを超えたコンテンツに基づく人間の判断、つまり、彼が講演の中で指摘していたヘイトスピーチ、嫌がらせ、危険な偽医療情報のフィルタリングは、危険で間違っていて、それはネイティブコンテンツにも有料広告にも通じるというものだ。それに従えば、Facebookのアルゴリズムは、コンテンツに関与しない限りは完全に公正ということになる。

だがこの信念は、完全に間違っている。これまで見てきたとおり、「エンゲージメントのための最適化」は、怒りや二極化や不誠実な偽情報のための最適化であることが非常に多かった。それぞれの問題に関して特定の側に味方することは、たしかになかった。しかしそれは、どちらの側でも、極論、陰謀説、感情的な罵倒を助長してきた。不信感、疑念、争いをいたるところで煽ってきた。私たちは、ずっとそれを見てきた。その中に私たちは暮らしてきた。

Facebookの、内容に関わらず政治広告を承認するという判断は、本質的には、彼らのアルゴリズムがエンゲージメントを最適化する方法の理論的な延長線上にある。それは、内容に基づく判断をしない限り、現在進行中の、今後永遠に続く、人々に何を見せて、何を見せないかの操作(これが言論の自由に反するとお考えなら検閲と読んでもいいだろう)は、したがって公平かつ公正なのだと物語っている。こうした考え方には、10年前いや5年前までは対抗できた。しかし、今はもう対抗できない。

これはもう、変えられないことでもある。Facebookのそもそもの罪は広告ではない。それは利用者にもっと広告を見せることを目的としたエンゲージメントのための最適化だ。Facebookが世界のポジティブな力になるためには、そこを変える必要がある。とは言え、彼らは決して変わらないだろう。なぜなら、そのエンゲージメントこそFacebookのビジネスモデルの基本だからだ。

[原文へ]

(翻訳:金井哲夫)

国の安全保障問題を監視するジャーナリズムは国家の敵なのか?

6年前、英国情報機関の職員がロンドンの新聞社ガーディアンに押し込み、米国安全保障局(NSA)の内部告発者エドワード・スノーデンが持ち出した高度な機密情報を保存していると彼らが目星を付けたコンピューターを破壊するよう、同紙のスタッフに命じた。

ガーディアンは、漏洩した極秘文書を返すよう米当局から圧力をかけられていた英国政府と「数週間にわたる緊迫した交渉」を重ねた末、編集部員たちが、ガーディアン社の地下でグラインダーやドリルを使ってコンピューターを破壊し、二度とデータが読み出せないようにした。米国と英国は、機密情報を共有し合う密接なパートナー関係にある。米国内を含め、NSAの文書のコピーが複数存在していた事実があるにも関わらず、同紙は拒否すれば懲罰的な法的措置を受けるか起訴される状況に追い込まれた。

「ガーディアンにとって、スタッフを守れる唯一の方法は、自社のコンピューターを破壊することでした」とガーディアンの記者Luke Harding氏は話す。

この数年間、なぜ報道の自由が重要なのかを語るときにこの事件を引き合いに出してきたが、米国人の反応は決まって「まさか、そんなことがあったのか?」というものだ。

ガーディアンのような事態は米国では起こりえない。国の安全保障問題を追う記者が、機密情報を持っていたり、政府関係者から機密情報が提供されるのは珍しいことではない。それは、権力や法の乱用を暴くためのものだからだ。米国の憲法で唯一名指しされている職業である米国の報道記者は、たとえ何が起ころうとも、責任を追及する力を保持する希望の星なのだ。

しかし、一番新しいジュリアン・アサンジの告訴は、そうした報道の自由を脅かすものとなっている。

ジュリアン・アサンジは、嘘つきで、誤報を振りまく人間として知れ渡り、多くの人たちからはとんでもない野郎だと嫌われているが、最新の告訴が公表されてからは、彼の最大の批判者から擁護されるようになった。

アサンジは、スパイ活動法のもとで機密扱いとなっていた情報を公表した容疑で起訴された、初めての人間となった。スパイ活動法は、世界大恐慌の10年も前に成立した法律で、外国のスパイや政府内の内部告発者の起訴を目的としている。

「これはまさに、国の安全保障を監視する記者とそのニュース媒体が政府関係者やその関連企業に頻繁に求めてきたことだ」と、ハーバード・ロー・スクールの教授であり元政府弁護人、Jack Goldsmith氏はLawfareに書いている。

実際、私も同じことをした。2017年、NSAから5年間にわたり5回の情報漏洩があった際に、私は政府のRagtimeプログラムRed Disk情報プラットフォームに関連する機密情報を入手して公表した。記者が、記者としての仕事をしたことで捜査を受けたという話はちらほら聞いてはいたが、100年前にスパイ活動法が成立してから今まで、機密情報を持っていたり公表したことで記者が起訴されたという話は一度も聞いたことがない。

秘密の拷問施設や、匿名の情報源や内部告発者から提供された政府による世界規模の監視活動のような機密情報を公表した報道機関や記者が、自分たちも同様に起訴されるのではないかという不安から、起訴状に慌てふためいたことは驚きに値しない。

ワシントンポスト紙の編集者Marty Baron市は、声明の中でこう話している。「古くはペンタゴン・ペーパーズの事件からさらに遡って、ジャーナリストは、政府が機密と考える情報を受け取り公表してきた。不正行為や権力の乱用が暴露してきた。ジュリアン・アサンジの新たな起訴で、政府は法的根拠を笠に着て、この重要な仕事を危険にさらし、米国憲法修正第1条(言論の自由)の本来の目的を蔑もうとしている」

アサンジは、元陸軍情報分析官Chelsea Manning(チェルシー・マニング)から提供されたロイターのカメラクルーを含む民間人の殺害に関する外交公電や軍の動画といった高度な機密情報をウィキリークスを通して公表した。マニングは、スパイ活動法により起訴され、後に減刑されるまで投獄されていた。アサンジに対する政府の最新の告訴の内容は、「情報提供者の氏名を編集しなかった」ために「米国の安全保証に深刻な危機をもたらした」というものだ。

アサンジを口うるさく批判する人たちは、米政府は「彼が行った最後の善行」で彼を起訴したと言っている。彼が公開した記事で、アサンジは自らの名前と評判に泥を塗った。とりわけひどかったのは、盗み出した恥ずかしい電子メールを公表し、ロシアと手を組んでヒラリー・クリントン氏の大統領選挙戦を台無しにしたことだ。

だがこれは、機密情報の公開という容疑にはまったく関係がない。

米国司法省は、アサンジは「ジャーナリストではない」と言っている。しかし、言論の自由と報道の自由を保障した米国憲法修正第1条は、その人がジャーナリストか否かの区別はしていない。

「憲法修正第1条は、ジャーナリストに特権を与えるものではない」と、国家安全保障弁護人Elizabeth Goitein氏は言う。「言論または報道の自由の剥奪を禁じることで、言論する人、書く人、報道する人、出版する人を公平に保護している」と、彼女はワシントンポスト紙のコラムに書いている。

言い換えれば、アサンジがジャーナリストかどうかは関係ないのだ。

米国の法律の下では、その人が記者であろうとなかろうと、同じ自由が守られてる。ジャーナリストもそうでない人も関係なく、機密情報を受け取り公表すれば、いかなる米国人も起訴しようと走る米政府を、もう誰も止められない。

「これは、ジュリアン・アサンジの問題ではありません」と、著名な政治家であり、いくつもの上院情報委員会のメンバーでもあるロン・ワイデン上院議員は言う。「これは、機密情報を受け取った人とそれを公表した人を起訴するための、スパイ活動法の使い方の問題です」

「アサンジの訴訟は、憲法修正第1条が守ってくれない活動に対して危険な前例、つまり、最も慎重で高い手腕を持つプロのジャーナリストでも、国家安全保障に関連する機密事項の取材を躊躇させてしまう前例になりかねない」と、テキサス大学スクール・オブ・ローのSteve Vladeck教授はコラムに書いている。

ワシントンポスト紙が5月24日に伝えたところによると、オバマ政権も、数年前にアサンジを起訴に持ち込もうと考えていたが、起訴すれば、実績ある報道機関の記者たちも、まったく同じように起訴しなければならなくなることを心配していたという。

しかし、トランプ政権がアサンジを起訴した今、かつてトランプ大統領によって「人民の敵」との烙印を押されたジャーナリストたちは、すぐにでも国家の敵にされてしまう恐れがある。

Bloombergの中国スパイチップのスクープはどこまで信頼できるか――ハイテク・エスピオナージュの闇を探る

[原文へ]

(翻訳:金井哲夫)

Facebook広告チームがエリザベス・ウォーレン上院議員の選挙広告削除で墓穴

Facebookの広告部がまたやらかした。今回はエリザベス・ウォーレン上院議員の、巨大IT企業の分割を提案する選挙広告を撤去した。

その攻撃的広告が削除された理由は、Politicoによると、広告内でFacebookブランドが使われていたかららしい。

一方、同議員の大統領選挙陣営による、Facebook、Amazon、およびAlphabet(Googleの親会社)による数多くの買収を解消させる計画に関する広告はFacebookから削除されていない。

実際、削除は短時間だったようだが、ウォーレンの選挙運動には反発材料を与え、数多くのニュース見出し、ツイート、リツイートのネタになった。

「当社企業ロゴの利用規約に反していたため当該広告を削除した」とFacebookの広報担当者がBuzzfeedRyan Macに語った。「活発な議論を可能にするために、広告を再掲載した」。

Facebook広報チームはよくやった。報道によると問題の広告にはFacebookロゴが入っていないというからなおさらだ。

しかし、ダメージはすでに始まっている。巨大IT企業は情報伝達方法に強大な力を持ちすぎている(特に自社プラットフォームでは)というウォーレンの主張に格好のネタを与えてしまった。

これは些細な出来事かもしれないが、巨大テクノロジー企業の私欲と自社プラットフォームでコンテンツを規制する能力が、広告においてさえも、言論の自由への圧力となることに対して、さまざまな立場の態度を硬化させることになるだろう。

[原文へ]

(翻訳:Nob Takahashi / facebook

FacebookやTwitterはヘイトスピーチ対策で足並みを揃えるときだ

2016年のドナルド・トランプの選挙以来、Facebook やTwitterといったソーシャルメディアプラットフォーム上でのヘイトスピーチに注目が集まるようになった。活動家がこれらの企業にコンテンツの節度を改善するよう圧力をかける一方で、いくつかのグループは(ドイツ政府は関与せず)即座にプラットフォームを告訴した。

これは、出版メディアとプラットフォームメディアにかかる法律が異なり、これによりオンライン上でのヘイトスピーチの解決が厄介な問題になっているためだ。

たとえば、 New York Timesに、全マイノリティグループの虐殺を主張するオプ・エド(編集部注:寄稿の論説)が掲載されたとする。Timesはヘイトスピーチを公に出したとして告訴され、そして原告は勝訴すると思われる。しかし、このオプ・エドがFacebookへの投稿で公開されたら、Facebookに対する告訴は失敗に終わるだろう。

なぜこうした不均衡が起こるのか。通信品位法230条だ。これにより、Facebookなどのユーザーが投稿したりシェアしたものについて裁判となったとき、プラットフォームはその責任を免れるのだ。Alex Jonesと彼のウェブサイトInfowarsに対する最近の騒ぎは、230条の廃止を求める動きにつながったーしかしそれは、政府によるオンライン上の言論の規制につながるかもしれない。その代わり、Jonesが彼のヘイトを広めるためにFacebookやTwitter、YouTubeを利用しているかどうかにかかわらず、プラットフォームは積極的な行動をとり、ヘイトスピーチはヘイトスピーチとみなされるよう、ポリシーについて共同で取り組むべきだ。

230条についての基礎知識

230条はオンライン上の言論の自由の基盤であると考えられている。1990年代半ばに法案が可決され、これによりFacebookやTwitter、YouTubeはユーザーがアップロードしたコンテンツで告訴されるリスクを免れている。これがあってこうした企業は急激に成長してきた。230条がなければ、ソーシャルメディア大企業はユーザーの投稿で裁判を抱え、行き詰まっていただろう。そして投稿の事前審査が必須となり、これらの企業はいずれも自由がきかなくなっていたはずだ。

その代わり、法が施行されてから20年以上たつが、裁判所はユーザーのコンテンツに関してテック企業を訴追しようと思っても230条が障壁となるということに気づいた。230条の恩恵を受けているのはソーシャルメディアプラットフォームだけではない。シェアリングエコノミー企業も、自社を弁護するのに230条を使ってきた。たとえば、AirbnbはホストがAirbnbのサイトに投稿したものについては責任を負わないとしている。裁判ではまた、230条がデートアプリにも適用されるほど幅広くカバーするものであることが明らかになった。ある男性が、未成年ユーザーの年齢を確かめていなかったとしてデートアプリの一つを告訴したとき、裁判所は230条を理由に、アプリユーザーの年齢詐称はアプリ側の責任とはならないとして裁判を終わらせた。

ヘイトスピーチの内規

もちろん、230条はオンライン上のヘイトスピーチ野放しを意図するものではなかった。FacebookやYouTube、Twitterといったプラットフォームはヘイトスピーチの投稿を禁じる自前の広範なポリシーを有している。ソーシャルメディア企業はこれらのポリシーを実施するために、そして違反したユーザーの利用を一時的に停止したり、アクセスをブロックしたりして責任ある利用を促すために、何千ものモデレーターを雇った。しかし、最近のAlex JonesとInfowarsの件は、いかにこうしたポリシーが一貫性なく運用されうるか、というケーススタディとなっている。

Jonesは何年にもわたって陰謀論をでっちあげてきた。サンディフック小学校での銃乱射事件がやらせであったとか、民主党がグローバルで子供性的人身売買組織を運営している、といったものだ。

Facebook、YouTube、Twitterに何千ものフォロワーを抱え、Jonesのヘイトスピーチは実社会で問題を引き起こした。サンディフック事件で犠牲となった子どもの親への残忍ないやがらせ、存在しない地下から子どもを救い出すとして男が銃でワシントンD.C.のピザ屋を襲撃した事件などだ。Jonesのメッセージは非常に有害な事件をたくさん引き起こしてきた。

Alex JonesとInfowarsは最終的に、我々が数えたところ10のプラットフォームから追放されたーTwitterでさえ、最初にためらったのちに1週間使用を停止させるという、他社に同調する措置を取った。しかし、テック各社の対応の違いや遅れは、同じスピーチをそれぞれのプラットフォームがどう扱うかを如実に表した。

フェイクニュースの広まりや、ソーシャルメディアによる深まる分裂など最近の論争で問題はさらに複雑となっているが、プラットフォーム間でヘイトスピーチルールの適用が異なる事態は、230条の修正または廃止を求める声へとつながった。もし印刷媒体やケーブルニュースがヘイトスピーチを広めたとして法律上責任を負うべきとされるなら、議論がおこる。特に米国民の3分の2がソーシャルメディアでニュースをみているという事実を鑑みるとき、それならなぜ同様にオンラインにも適用されないのか、となる。テック企業に対するさらなる規制の必要性を叫ぶ声がある中で、230条は常にターゲットとなっている。

ヘイトスピーチは規制されるべきか

しかしもし、オンライン上の言論を政府が規制するのは最前の策ではないと考えるなら、230条にある議会の表現と同じだ。1990年代半ばに施行された230条は、オンラインプラットフォームは“受け取る情報にかかる最大限のコントロールをユーザーに与え、またテクノロジーが発展する将来もさらなるコントロールの可能性”を、そして“政治論における真のダイバーシティ、文化的発展の機会、知的生産活動のための無数の手段”を提供する、としている。

230条はこう続く。これは“米国のポリシーである…インターネットを使用する個人、家庭、学校が受け取る情報についてコントロールを最大化するテクノロジーの発展を促すためのものだ”。これに基づけば、230条はいまやオンラインプラットフォームに恥ずべき保護を提供していることになる。

我々がソーシャルメディアで目にするもののほとんどはアルゴリズムによって操られているという事実から、Cambridge Analyticaスキャンダルソーシャルメディア上でのフェークニュースの流布による深まる分裂に至るまで、1996年の議会の言葉が現代においていかに不正確な予言のカタログとなっているかがわかるだろう。230条の原文起草者Ron Wyden自身ですら、数百万という人の虐殺、そして恐ろしい犯罪の被害者や子供が殺された親への攻撃を個人が支持(または否定)したりすることが、230条が持つ力で保護されるようになるとは起草者の誰もが思いもしなかった、と認めている。

ソーシャルメディアの運用について、最近の公聴会で議会の理解不足が露呈したように、オンライン上の言論を規制することが20年後にどんな影響をもたらすかを予測するだけの能力が今日の議会にあるか、という点に関しては議論の余地があるところだ。

さらに重要なのは、新たな規制を広く適用することが必然的にスタートアップの参入を著しく阻害することにつながることだ。それは、今存在する企業を保護するという意図しない結果を招きかねない。FacebookやYouTube、Twitterは、節度を持ってコンプライアンスを扱ったり、規制が適用されるかもしれない投稿を事前審査したりするだけの力量やインフラを持ち合わせているかもしれないが、小さなスタートアップは、そのような負担に対応するとなればかなり不利な立場に追い込まれることになる。

規制の前の最後のチャンス

答えはオンラインプラットフォームそのものの中にあるはずだ。過去20年間にわたり、オンラインプラットフォームはヘイトスピーチを感知して取り除くという点でたくさんの経験を積んできた。彼らは、これまでとは違うポリシーの草案をつくるためにさまざまなバックグラウンドを持つメンバーによるチームを結成した。これまであげた収益でもって、政府の検察官から学者、人権に詳しい弁護士に至るまで、トップの人材を確保することができた。

こうしたプラットフォームはまた、彼らのプロダクトポリシーチームーポリシーを起草したりポリシーの実行状況を監督したりするーが全体的に社会においてより目立つ存在になるよう、過去数年、大量採用を行なってきた。Facebookはプロダクトポリシーチームに“前性犯罪危機カウンセラーや、ヘイト組織研究を専門とする学者、そして教師”が加わっていることを得意げに発表した。多くのエンジニアがどこに線を引くかを決める、という時代は過ぎ去ったようだ。テック大企業はポリシーの起草と実行について、かつてないほど真剣に取り組んでいる。

彼らが今すべきは、ヘイトスピーチを広めたいと考えている人がプラットフォームのポリシーの目をかいくぐることができないよう、次の段階に歩を進め、ポリシーで足並みを揃えることだ。そうした確かな行動を取る前にInfowarsのような論争が本当の悪夢になるのを待っていれば、規制の要求が高まるだけだ。ヘイトスピーチポリシーや産業にわたるスタンダードを設けるとなったときに、積極的に人材や方策を蓄えておくことで、政府の直の規制に抵抗する正当な理由を展開できるだろう。

ソーシャルメディアの巨人たちはまた、コンテンツの節度を守るための最新のアプローチにスタートアップがついてこれるよう手助けすることで社会の信頼を得ることができる。ヘイトスピーチ問題に対処する業界のコンソーシアムは間違いなくテック大企業に占有されるだろうが、ポリシーには誰でもアクセスできるようにし、幅広く利用できるようにしなければならない。

激しい競争を展開する各社が協力し合うというのは、ピンとこないかもしれない。しかしヘイトスピーチという問題、そしてそのヘイトスピーチを広めようとオンラインプラットフォームを悪用する動きを前にするとき、業界全体での対応が必要だろう。共通する脅威に直面してテック大企業が足並みを揃えたという前例はある。昨年、Facebook、Microsoft、Twitter、そしてYouTubeは“テロリズムと闘うためのグローバル・インターネット・フォーラム”を結成した。 これはオンライン上におけるテロコンテンツの脅威を抑制するためのパートナーシップだ。ヘイトスピーチとの闘いは、テロコンテンツとの闘い同様に称賛されるゴールとなる。

自制は大変な特権だ。テック大企業がその特権を維持したいなら、自前の言論の規制を支えるポリシーを整え、スタートアップやその他の小さなテック企業がそうしたポリシーや実行メカニズムにアクセスできるようにするという責任を負うことになる。

イメージクレジット: BsWei / Getty Images

[原文へ]

(翻訳:Mizoguchi)