Facebook監督委員会（FOB）は、Facebook（フェイスブック）のコンテンツモデレーションの決定を検討する際に、二者択一の選択を求められることにすでに不満を感じている、とメンバーの1人が語った。米国時間3月3日、オンライン上の表現の自由に関する調査を行っている英国貴族院委員会で証言した時のことだ。
FOBは現在、FacebookのDonald Trump（ドナルド・トランプ）前大統領のアカウントに対する措置を覆すかどうかを検討している。2021年初頭、トランプ氏の支持者が米国の首都を襲撃したことを受けて、このテクノロジー界の巨人はトランプ氏のアカウントを「無期限に」停止した。
関連記事
・Facebookの監督委員会がトランプ氏のアカウント停止に対するパブリックコメントを募集
・FacebookとInstagramがトランプ大統領のアカウントを「少なくとも政権交代が完了」までブロック
米国時間1月6日に起きた混乱極まる暴動では、数人を死に至らしめ、トランプ氏が大手テクノロジープラットフォームを拡声器として利用し国民の分断と憎悪を煽っていたことについて、各社が抑止力を働かせることもなく黙認していたと、非難の声が広がっている。
しかし最終的に、Facebookはトランプ氏のアカウントを停止し、ほぼ同時にこの件を自ら組織し自ら命名した監督委員会の審査に委ねた。このことは、Facebook自身が立ち上げ、出資し、メンバーを決めた例外的な審査プロセスによって、トランプ氏への措置がすぐに覆される可能性があることを意味する。
英国の新聞社The Guardian（ガーディアン）の元編集長のAlan Rusbridger（アラン・ラスブリッジャー）氏は、委員として選ばれたFOB初期メンバー20人（人数は40人に倍増される予定）の一人だが、3月3日、審査が進行中であることを考慮しトランプ氏のケースについて直接言及することは避けたものの、初期段階での二者択一の選択肢は、自由に選択できるとは言え同氏が望むような繊細さを備えるものではないことを暗に語った。
「現在注目されているケースについてはコメントを控えるが、誰かを永久に追放するのではなく、『ペナルティーボックス』を用意して、再度何か問題を起こした場合には、その時点で追放するというのはどうだろうか」と述べ、代替案としてサッカーの「イエローカード」のような制度を望んでいることを示唆した。
「FOBは、その裁量を広げたいと考えている。単に追放か放置かだけでは、すでに少し閉塞感を感じている」と話し「もし、拡散を抑制したい場合はどうすればいいだろうか。何か枠をはめたい場合はどうだろうか」と続ける。
「そういったことは、いずれFOBがFacebookに要請することになるだろう。しかし、FOBは、まず自信を持って仕事に取り掛からなければならない。望む結果を得ることができる」。
ラスブリッジャー氏は貴族院委員会で「どのみちある時点で、アルゴリズムを見せてもらうことになると思う。それを見たときに理解できるかどうかは別問題だ」と語った。
多くの人にとって、Facebookのトランプ氏のアカウント停止は議論の余地がない。トランプ氏が暴動を煽るためにFacebookを使い続けることで、さらなる暴力を引き起こす危険性があるからだ。また、Facebookの規則に照らし合わせれば、Facebookのコミュニティ基準に対して明らかな違反が繰り返されている。
Facebookの元最高セキュリティ責任者のAlex Stamos（アレックス・ステイモス）氏は、このアカウント停止の支持者の一人だ。同氏は現在、スタンフォード大学インターネット観測所を通じて、オンラインプラットフォームの信頼性と安全性に関する幅広い問題に取り組んでいる。
ステイモス氏は1月初旬、Twitter（ツイッター）とFacebookの両社に「正当な公平性は失われた。レッテルを貼るだけではダメだ」と、すべてが始まる前にトランプ氏を排除するよう要請していた。
しかし最終的に、大手テクノロジー企業がほぼ一丸となってトランプ氏の口を封じたことを受けて、いくつかの国の首脳や議員が、大手テクノロジー企業の権力の誇示に懸念を表明した。
関連記事：トランプ大統領はこうしてプラットフォームを失った、テック業界にとって前代未聞の歴史的な1週間を振り返る
ドイツの首相は、Twitterがトランプ氏のアカウントを停止したことを「問題がある」とし、言論を妨害するプラットフォームの力について厄介な問題を提起したと述べた。一方、欧州の他の議員らは、この一方的な行動を重く受け止め、巨大テクノロジー企業に対するしかるべき民主的規制の必要性を主張した。
世界で最も影響力を持つソーシャルメディアプラットフォームが、民主的に選出された大統領（それがトランプ氏のように対立を生み不人気な大統領であったとしても）を黙らせたという事実は、あらゆる立場の政治家に不快感を与えた。
いうまでもなく、Facebookの予想に違わぬ反応は、この二面性のある難題をFOBの判断に委ねることだった。結局のところ、それがFOBを計画した目的そのものだ。FOBは、物議を醸す面倒なコンテンツモデレーションに対処するために存在する。
そしてそのレベルでは、Facebookの監督委員会は、Facebookが意図した通りの仕事をしている。
しかし、この私的な「最高裁判所」が、二者択一に限られる裁定を求められていることに対してすでに不満を感じているというのは興味深い（トランプ氏のケースでは、アカウント停止を完全に破棄するか、無期限に継続するか、ということだ）。
FOBの非公式な発言の意味するところは、与えられた手段があまりにも柔軟性に欠けるということのようだ。しかしFacebookは、FOBが出す可能性のある広範な指針の提案に拘束されるとは言っておらず、個々の審査決定に従うとだけ言っている（つまり、FOBがFacebookに対して一般的な批判を表明しても重要なところで影響力はないということだ）。
FOBが不満の解消に向けて、どれだけ積極的にFacebookに働きかけるかは、まだわからない。
「どれも簡単に片付く問題ではない」。ラスブリッジャー氏は貴族院委員会でそのように述べ、デジタル時代における言論の抑制の課題について、より一般的な見解を示した。同氏は、グーテンベルクが発明した印刷機によって生じた長期に渡る社会的混乱を例に挙げ、インターネットがもたらした発信の革命に対応するためには、実際には何世代にもわたる取り組みが必要になる可能性を示唆している。
もしFacebookの期待することが、FOBが知性を発揮しつつコンテンツモデレーションに絡む難しい（そして厄介な）問題を棚上げにすることであれば、ラスブリッジャー氏の証言が示すようなFOBの内部で行われている熟慮のレベルに、きっと満足していることだろう（もしかすると、自ら任命した委員らにアルゴリズムのブラックボックスの開示を求められることを、不愉快に思っているかもしれないが）。
St John’s（セントジョーンズ）大学法科大学院のKate Klonick（ケイト・クロニック）准教授も貴族院委員会で証言した。クロニック氏は、FOBが設立される過程を取材するためにFacebookから広範なアクセス権を与えられ、FOBの内部構造に関する記事を執筆した。その記事は、最近The New Yorker（ザ・ニューヨーカー）に掲載された。
貴族院委員会は、FOBの運営についてより精通すべく、FOBのFacebookからの独立性について何度か参考人に質問した。
ラスブリッジャー氏は「自分たちがFacebookのために働いているとはまったく思っていない」と述べ、この点に関する懸念を否定した。FOBのメンバーは、Facebookが設立した信託会社を通じてFacebookから報酬を得ているが、これはFOBをFacebook本体から独立した立場に置くためだ。貴族院委員会は、FOBがどれほど純粋に独立しているのかを問うために、躊躇なく報酬の問題に切り込んだ。
ラスブリッジャー氏は「非常に独立していると思っている」と答え「Facebookに友好的でなければならないとか、否定的でなければならないといった義務があるとはまったく思っていない」と述べた。
「FOBの良いところは、時には誰かが『しかし、もしそんなことをしたら、どこそこの国でのFacebookの経済モデルが台無しになる』と言ったとしても、『それは私たちの問題ではない』と答える。これはとても自由なことだ」と同氏は付け加える。
もちろん、FOBの現職のメンバーが、一斉に報酬を辞退するなどしない限り、独立性の質問には他に答えようがないだろう（誤解のないようにいうと、ラスブリッジャー氏は辞退していない）。
FOBのメンバーは1期3年で3回の任期を務められることが確認されているので、同氏はFacebookのために、今後10年近く熟慮を続けることになる。
一方、クロニック氏は、Facebookが準独立の監視機関をゼロから構築し、同社自身と自らが監視機関と称するFOBとの間に距離を置くという課題の難しさを強調した。
「監視機関としての制度を構築すること、つまり、制度構築への移行や、［FOBとFacebookの間の］しがらみの排除、そして膨大な難題、新しいテクノロジー、新しいバックエンド、コンテンツ管理システムなどとともに新しい人たちを組織することは、信じられないほど難しいことだ」と同氏は語る。
ラスブリッジャー氏によると、FOBの「研修期間」の間、Facebookの代表者が参加する広範なトレーニングプロセスを経たとのことだ。しかし、トレーニングの終了後、Facebookの代表者がまだ通話に参加していることに気付いたときのことを説明し、その時点でFOBはFacebookに退去を指示する権限を得たと思うと話した。
クロニック氏は「その状況を見ていて、これはまさに、起こるべきことが起こった瞬間だったと思う」と述べ「ある種の正式な決別が必要だった。背中を押されて巣立つ瞬間、FOBがトレーニングを終えた時点がその時であり、当然の成り行きだった」と付け加える。
しかし、FacebookがFOBの通話を文字通り盗み聞きしていないことを独立性の尺度とするならば、Facebookは、自らの監督者をプログラムするための長く複雑なプロセスにおいて、選ばれた意欲的な参加者をどれほどうまく洗脳したのか、立ち上げを監視するために入れた付加的な部外者も含めて、疑ってみなければならない。
貴族院委員会は、FOBがこれまでのところ、ほとんどの場合、モデレーターが削除したコンテンツの回復をFacebookに命じているという事実にも関心を持っている。
2021年1月、FOBが最初の決定を下した際、Facebookが削除した5つのコンテンツのうち4つを回復させたが、その中にはヘイトスピーチに関するものもいくつか含まれていた。この動きはすぐに、FOBの方向性に対する批判を集めた。結局のところ、Facebookのビジネスに対して広がる批判は、有害なコンテンツを削除することにあまりにも消極的であるというものだ。（例えば、Facebookはようやく2020年、ホロコーストの否定を禁止した）。そしてなんと、自称「監督委員会」がヘイトスピーチの削除を撤回する決定を下しているのだ。
関連記事：Facebookが方針転換してホロコースト否定コンテンツを禁止へ
真の意味でFacebookから独立し反抗する私的な「The Real Facebook Oversight Board（真のFacebook監督委員会）」は、即座に「衝撃的だ」と食いつき、FOBは「ヘイトを正当化するために全力を尽くしている」とこの決定を非難した。
クロニック氏は、FOBはFacebookの最高裁判所ではなく、本質的にはむしろ「ユーザーのための紛争解決メカニズム」に過ぎないという現実を指摘した。
もしこの評価が正しいとすれば（FOBにたどり着くユーザーの数が非常に少ないことを考える限り、実際、的を射ていると思うが）、本来ならばプラットフォームの標準機能であるはずの監督機能について、FacebookがどれだけPRできたかは、まったく疑わしい。
クロニック氏は、FOBの年初の取り消し決定は、コンテンツの削除に異議を唱えるユーザーの声を聞いた結果であり、ユーザーの不満に「共感」したからだと主張する。
「どのような規則に違反したのか、どうすれば再び規則違反を避けられるのか、どうやってその情報を得るのか、自分の言い分を伝えることができるのか、といったことが具体的にわからないという絶対的なフラストレーション」と、コンテンツ削除決定の見直しを申請したユーザーからFOBのメンバーが聞き、同氏に語った内容を列挙する。
「今回のFOBの決定は、何よりもまず、そのような状況を回復させようとするものだと思う」と同氏は示唆し「それはFOBがFacebookに送り返しているシグナルであり、正直にいうと、容易に解決できる問題だ。つまり、正確な規則を人々に伝え、事実に照らし合わせた分析や規則の適用を行い、目にしているものを読み取ってもらうことで、人々は何が起こっているのかをよりよく理解することができる」と続ける。
「あるいは少なくとも、検閲がブラックボックスではなくプロセスがあることを少しでも感じられればと思う」。
貴族院委員会の質問に対する回答の中で、ラスブリッジャー氏は、審査の意思決定にどのようにアプローチしているかを語った。
同氏は「ほとんどの判断は、なぜこの特定のケースで言論の自由を制限するのかを熟慮することから始まり、それが興味深い疑問を生む」と述べ、Brandeis（ブランディス）判事の「より多くの言論で悪い言論に対抗する」という見解に通づる、言論についての前述の自説を要約した。
同氏は「不快にされるか損害を与えられるかの境界線とは異なり、不快にされない権利がこの問題には関わっている」とし「この問題は、政治哲学者たちによって長い間議論されてきており、絶対に解決されることはないだろう」と続ける。
「しかし、もし不快にされない権利の確立が受け入れられれば、最終的にそれは、ほとんどすべての議論に大きな影響力を与えるだろう。そして実際、Facebookがあるコンテンツを削除した際、実質的にそのような権利を行使したケースが1つか2つあった」。
同氏は「不快とは異なり、被害は明らかに異なる扱いを受けるものだ」とし「そして、我々は幸運なことに、専門家を雇い、被害についての助言を求めることができる立場にある」と付け加えた。
ラスブリッジャー氏は、不快な言論と有害な言論の「境界線」を設定しなければならなくなった場合にFOBが直面する課題や落とし穴について悩んでいるようには見えなかったが、専門家を（さらに）外部委託できることは恐らく助けになるだろう。それは同氏が、貴族院委員会のセッションの中で、（初めにFacebookが選んだ）現在のFOBメンバーに技術的な専門性が欠けていることも含め、他にもいくつかのオペレーション上の問題点を指摘していたからだ。
技術的な専門知識がなければ、Facebookのコンテンツ配信マシンを有意義な方法で分析することはできない。それでは同氏がFOBの要望であるという「アルゴリズムを調べる」ことはどうやって実現するのだろうか。
FOBには現在、技術的な専門知識が欠けているため、その機能についてさまざまな疑問が提起されている。また、アルゴリズムを利用した金儲けのための選定について、言い逃れやより深い精査の回避を容易にすることで、最初にトレーニングを受けたメンバーが、Facebookの利己的な観点から有用な愚か者として扱われていないかどうかも疑問視されている。
Facebookという機械が技術的、経済的にどのように機能しているのかを本当に理解していなければ、一体どうやって意味のある監視を行うというのだろうか（ラスブリッジャー氏は明らかにこのことを理解しているが、このプロセスがどのように進展していくかを見守ることに満足しているようだ。知力の発揮とインサイダーの視点が魅力的であることは間違いない。「今のところ、非常に高い関心を持っている」と同氏は証言の冒頭で認めている）。
同氏は「監督委員会があるとしても、アルゴリズムは、中毒性を高めるためにコミュニティを対立させるような感情的なコンテンツに報酬を与えることはよく知られていることだ、と人々はいう。それが本当かどうかはわからないが、FOBとしてはそういった問題に取り組む必要がある」と述べ「たとえそれが、プログラマーと何度もセッションを重ね、我々が理解できるように非常にゆっくり話してもらうことになったとしても」と続ける。
「FOBの責任は、Facebookのメカニズムがどういったものであるかを理解することだと考えている。モデレーションのメカニズムではなく、許容するメカニズムだ」とし「そのメカニズムの評価基準は何なのか」と述べる。
二人の証言では、もう1つの懸念が示された。FOBが行っている複雑で微妙なモデレーションの判断は、スケールアップできないのではないかということだ。これは、AIベースのモデレーションに供給する一般的な情報に比べて、あまりにも特殊すぎるということを示唆している。また、Facebookが現在運用しているスタッフによるモデレーションシステム（数千人の人間のモデレーターが驚くほど短い思考時間でコンテンツの良否を決定している）でも、必ず対応できるとは限らないだろう。
それにもかかわらず、Facebookの巨大なスケールと、コンテンツ帝国の端っこでくすぶる、同社が決めた限られた機能のFOBとの間の問題は、適切に議論されることもなく、貴族院委員会のセッションに不安を残す包括的なポイントの1つとなった。
ラスブリッジャー氏は「『このようなことは簡単に意思疎通できるのか』という問いは、良い質問だ。FOBのメンバーは少しずつそのことに取り組んでいる」と述べ、審査の仕事の要求に応えるだけの資格を自認できるよう、見慣れない「世界中の人権プロトコルや規範」を一通り学ぶ必要があったことを認めた。
このようなレベルのトレーニングを、現在Facebookがコンテンツモデレーションを行うために雇用している何万人ものモデレーターに拡大するには、当然のことながら目のくらむような費用がかかる。また、Facebookから提供されるものでもない。その代わりに、非常に高価でトレーニングを受けた40人の専門家からなる精鋭チームを抜擢して、極少数のコンテンツ判定に取り組ませている。
ラスブリッジャー氏は「FOBが下す決定は、人間のモデレーターが理解できるものであることが重要だ」と言い「理想的にはAIでも理解できるものだが、あるケースの事実について、［Facebookのコミュニティ基準、Facebookの価値観、『人権フィルター』］の3つの基準に準拠し、特定の方法で決定することがあるので、そこには葛藤がある」と語る。しかし、AIがあるケースと別のケースの微妙な差異を理解するのはかなり難しいだろうということは承知の上で、次のように話した。
「だけど、これはまだ始まったばかりさ」。
関連記事：Facebookの監督委員会がプロジェクトが成功すれば「他ソーシャルネットワークの参加も歓迎」
画像クレジット：TechCrunch
［原文へ］
（文：Natasha Lomas、翻訳：Dragonfly）
