Facebookは、同社が展開するプラットフォームで南スーダンの16才の少女が花嫁としてオークションにかけられるのを防ぐことができなかった。
戦争で荒廃した地域に住む思春期の少女が抱える多くのリスクについてまとめている国際NGOプランインターナショナルの最新レポートによると、子どもの強制結婚（Child early and forced marriage ＝CEFM）は南スーダンで最も多く報告されているジェンダーに基づく暴力なのだという。
そうした地域に住む少女はいま、ソーシャルメディアについても心配しなければならないようだ。
Viceがこの件について昨日詳細に報じた。それによると、Facebookは少女がすでに結婚してしまった後にオークションの投稿を削除した。この削除は、少女の家族が10月25日にFacebookのプラットフォームで子どもを売るとアナウンスしてから2週間以上たってのことだった。
オークションの投稿に気づいたのは11月9日で、気づいてから24時間以内に削除した、とFacebookは言っている。その24時間のうち、投稿を削除するとFacebookが決定するのに何時間かかったのかは不明だ。
オークションを落札したのは南スーダンの首都に住む大富豪のビジネスマンで、記録的な“値段”で競り落としたと報道されている。その少女Nyalong Ngong Deng Jalangと結婚するのに払われた値段とは、牛530頭、3台のランドクルーザーV8、そして1万ドルだ。
プランインターナショナルは、子どもの花嫁オークションにFacebookが使用されたと確認された初の事案だ、とViceに語っている。
「これはかなり憂慮すべき事案だ。というのも、かなりもうけのある取引で、多くの注意をひきつけた。今回の件が、他の人も後に続こうとインセンティブのように作用するのではと憂慮している」としている。
別の人権NGOは、削除されたオークション投稿のスクリーンキャプチャをTwitterに投稿し、こう書き込んでいる：人権グループによるさまざまな訴えにもかかわらず、16才の少女が南スーダンでFacebookが削除しなかったオンライン結婚オークション投稿の犠牲になった。
なぜオークションを防ぐことができなかったのか、我々がFacebookに説明を求めたところ、広報から次のような返事があった。
投稿、ページ、広告、グループといった全てのフォームにおいて、Facebookではいかなる人身売買も許されない。我々は投稿を削除し、この投稿を行なった人のアカウントを永久使用禁止にした。我々は、安全・セキュリティチームの人員を3万人超に倍増させ、またテクノロジーに投資するなど、我々のポリシーに反するコンテンツを特定するための方策改善に常に取り組んでいる。
オークションが投稿されてから、その投稿がFacebookによって削除されるまでに2週間以上も間があったというのは、モデレーションプロセスの改善にたっぷり投資してきたというFacebookの主張に深刻な疑念を生じさせる。
人権グループはこの投稿についてFacebookに直接注意を促そうとした。またこの投稿は、かなり地元のメディアの注意もひいたとされている。にもかかわらず、投稿を認識して行動に移すまで数週間もかかったーFacebookの対応は遅きに失し、行動したときにはすでに少女は売られ、結婚してしまっていた。
Facebookはプラットフォームについて国レベルでのデータは公開していないので、南スーダンにどのくらいのユーザーがいるのかは不明だ。
また、世界のコンテンツプラットフォーム（20億人超のユーザーを抱える）のコンテンツレビューを実行するためにFacebookが雇用、もしくは契約しているおおよそ1万5000人をどのように配置しているのかも明らかではない。
Facebookは、コンテンツをレビューする人がプラットフォームが使われている世界各地の言語を理解するわけではないことを認めている。彼らは世界で広く使われている言語ですら話すわけでもない。なので、南スーダンで使用されている言語をしっかり理解できるレビュー者がいる、というのはとても考えられない。
我々はFacebookに、南スーダンで使用されている言語（複数だ）のいずれかを話せるモデレーターを何人配置しているのか尋ねた。広報はすぐさま回答することはできなかった。
Facebookが少ない数のレビュー者（トータルのユーザー数と比較しての話だ）に頼り、遠くからのコンテンツレビューを行なっているということの結末が、人権リスクへの素早い対応がすべきときに行えていないということになる。
事業を展開する全てのマーケットにおいて、プラットフォームでつくられるリスクに直接、そして素早く対応できるよう、言語的そして文化的にセンシティブでならなければならないところにFacebookはレビューチームを配置できていない（かなり多くのレビュー者がドイツに配置されているードイツでは1年前にソーシャルメディアヘイトスピーチ法案が可決された）。
AIもまた、この難題を解決はしないー人間の時間の尺度でもだ。そのため、Facebookはこの作業を実際に人にさせている。
しかし少女花嫁オークションに気づいて削除するのに2週間というのは、いくらなんでも時間がかかりすぎた。
実に高いコストを伴うことになるかもしれないテクノロジーツールが人権に与える影響を監視し、管理するために、Facebookが国際事業全般にわたって十分に投資できていないという実態が鮮明になりつつある。
南スーダンにおいては、不十分な監視がハイテック奴隷マーケットと同等のことのためにプラットフォームが利用されるという事態を招いた。
Facebookはまたミャンマーでの深刻な過失でも窮地に立たされている。ミャンマーでは、Facebookのプラットフォームがヘイトスピーチを広め、民族抗争を激化させたとして非難されてきた。
チェックされていないソーシャルメディアツールにアクセスすることで、幇助されている他の人権侵害を我々はまたすぐ目にすることになる。
[原文へ]
（翻訳：Mizoguchi）
