ソーシャルメディア企業は2016年以来、プラットフォームが悪用されてかなりの人に影響を及ぼすかもしれないという備えを怠ったとして、メディアでかなり叩かれ、社会的批判にさらされてきた。その悪用とは世界中の民主主義を妨害したり社会的分断の原因をつくったり、あるいは集団虐殺をたきつけたりする、といったものだ。
新型コロナウイルス（COVID-19）により世界がカオスに、そして社会的隔離状態となるにつれ、ソーシャルメディア企業はそうした集中砲火から一時的に逃れている。新型コロナウイルス救援の取り組みに協力するために並々ならぬリソースを活用しているところでは特にそうだ。政府の官僚主義が衰えている一方で、世界は官僚的形式主義を超えて科学的進歩を早送りすることに熟練しているテック企業に目を向けている。しかし、たとえ我々があまり注意を向けていなくても同じ古い問題が頭をもたげている。
YouTubeに関しては、The Guardianと監視グループTech Transparency Projectの新たなレポートで、嘘のコロナウイルス治療法を宣伝するかなりのビデオの広告で同社が儲けていることが明らかになった。ウイルス感染を治療できるかもしれない方法として「民間療法、瞑想的音楽、ビタミンCのような処方サプリの健康を害すかもしれない量の摂取」など科学的でないものを助長するビデオでは、Liberty Mutual、Quibi、トランプの2020年再選キャンペーン、Facebookなどの広告が流れた。Facebookの場合、同社のバナー広告が、「わずかながらパワフルなシータ波を使うことによるポジティブ思考」がウイルスを寄せ付けないかもしれない、とうたう音楽をアピールするビデオで表示された。
パンデミックの初期段階では、YouTubeはコロナウイルスに関するあらゆるビデオでの広告を禁止した。3月中旬に、真に対象とすべきものが明らかになり、同社はポリシーを撤回し、一部のチャンネルに広告掲載を許可した。4月2日、同社は広告許可を拡大し、ガイドラインに従っている全ビデオに広告を許可した。ガイドラインの主なものの1つとして、「危険な療法や治療の宣伝」を含む医学的な誤情報の助長を禁じている。レポートにあるビデオのほとんどはジャーナリストの指摘を受けた後に削除された。
こうした例、そして他の多くも、この極めて特異なときに主要なテックプラットフォームがいかに判断しているのかという疑問を引き起こしている。ソーシャルメディア企業は、パンデミックが自社のワークフローにどのように変化を起こしているか、いつになく公表してきた。3月の電話会見で、Facebook創業者のMark Zuckerberg （マーク・ザッカーバーグ）氏は契約モデレーター1万5000人に有給休暇をとってもらっていることを認めた。つまり、同社のプラットフォーム上のコンテンツのフィルタリングではかなり人工知能に頼るようになっているため、ユーザーはより多くの「嘘」を目にすることが予想される。児童ポルノや深刻な暴力、ヘイトスピーチといった最も好ましくないコンテンツの選別作業は、心理的そして法的な結果を伴うことが考えられるだけに、家に持ち帰って行えるものではない。
YouTubeも同様に、人間によるレビューを補うために「一時的にテクノロジーに多くを頼る」と警告した。自動化されたプロセスは「ポリシーに反していないかもしれないビデオを含め」より多くのビデオの削除につながるかもしれない、ともしている。Twitterもまた、人間によるレビューを希望する手段も残しつつ、「悪意や操作性があるかもしれないコンテンツに対してあらゆるアクションをとるために」機械学習に頼っていると明らかにした。これらの企業は、現在の対応でどんなことが起こり得るのかについてはほとんど警告していない。
ひとたび日常が戻り、あるいは新たな日常に落ち着けば、モデレーションはどうなるのだろうか。人工知能がタスクをマスターし、人間のレビュワーを不要のものとするのだろうか（そうはならないだろう）。ソーシャルメディア企業は人によるモデレーションの価値を再認識して、そうした業務にあたる人を社内で増やし、フルタイムの従業員に提供されているような待遇を与えるのだろうか。悪夢のようなパンデミックで明らかになった多くの物事と同様に、結果はせいぜい漠としたものだろう。
不規則な調査レポートや事例のツイート、当局による事後検討など、プラットフォームの責任を問うアプローチがすでに断片的だったとしたら、真実はさらに遠のく。ましてや、新型コロナパンデミックにより、便乗値上げをする者やカオスの中でさらにカオスを作り出す悪党は数え切れないほどの新たなチャンスを手にしている。
我々はすでにイランで恐ろしい事態を目の当たりにした。そこでは数百人の人が産業用アルコールを飲んで死んだ。そうした人々は、産業用アルコールを飲めばウイルスから身を守ることができるかもしれないという扇情的な話を拡散する「転送メッセージがまた転送されたもの」で情報を得ていた。ほとんどの死で、犠牲となった命以上のことは気づかれもせず、広報規制のために報告もされず、注意をひくことすら抑制されるだろう。
コロナウイルスや未知のことについては多くのことが書かれてきたが、それらのほとんどは、ウイルスが全世界を脅かすもので、救命用品の在庫が先細る中で新型コロナウイルス患者が押し寄せて病院や健康施設を危機的な状況に陥れるものであることを強調する科学的な研究に基づいている。しかし誤情報、そして故意に拡散された誤情報の危機は、それ自体が不安定な要素だ。いまやビジネスを完全に滅茶苦茶にし、容赦無くニュースを独占した前代未聞のグローバル危機と混ぜ合わさっている。そして世界トップの権力を完全に常軌を逸した大統領選へと追いやっている。テック業界における米国の穏健主義に結びつく予想しなかった選挙結果では、我々がほとんど気にしていなかったソーシャルネットワークの表面下で極悪な力が働いていたことが明らかになったが、今回の誤情報危機はそのとき以来のものだ。
いずれにしろ、現在においては、パンデミックの最中に実行された新たなシステムがどこで間違い、どのような悪い結果を伴うことになるのか、外部の者が判断するのは困難だろう。そうした原因を判別するために、我々は企業の言葉、特に平時にさまざまな結果を伴ったリスクのある言葉に耳を澄ませる必要がある。人との結びつきにおいてかつてなくソーシャルネットワークに頼っているが、我々が日々没頭しているバーチャル・ポータルは依然としてブラックボックスで、これまでと同じく不可解なものだ。平常が打ち砕かれた暮らしにおける多くの要素と同様、唯一望まれることは変化だろう。
画像クレジット: Photo by Spencer Platt/Getty Images / Getty Images
[原文へ]
（翻訳：Mizoguchi）
