インド警察がカシミール地方でVPNを使った数百人の捜査を開始

インドが実効支配するカシミール地方の地元警察は、紛争が続くヒマラヤ地域でのソーシャルメディアの使用禁止措置を回避するために仮想プライベートネットワーク(VPN)を使った人たち数百人に対して捜査を開始した。この禁止措置は、人権やプライバシーを擁護する活動家たちから非難を浴びている。

スリナガル州警察サイバー部門を率いるTahir Ashraf(タヒール・アシュラフ)氏は、2月13日に警察当局はソーシャルメディアを悪用し「非合法活動と分離独立主義の思想」を宣伝した容疑者数百名をすでに特定し調査していると述べた。

2月17日、警察はインドのテロ対策法である違法活動防止法()のもとで「有罪を立証できる材料を数多く」押収したと述べた。この法律に違反した者は最高7年の懲役となる。

「ソーシャルメディアの悪用を深刻にとらえ、分離独立思想の宣伝や違法活動の扇動のために悪質な人間がソーシャルメディア・サイトを悪用しているという通報が絶え間なく届いています」と地元警察は声明の中で述べている。

この動きは、インド政府がAmazon IndiaやFlipkartなどのショッピングサイトを含む数百のサイトのブロックを解除した数週間後に始まった。Facebook、Twitterなどソーシャルメディア・サービスはいまだにアクセスできず、モバイル通信のデータ速度も2Gに制限されている。

あるアナリストの調査によれば、ブロックが解除されたサイトは301件中126件だが、「ある程度」しか使えないとのこと。ソーシャルメディアの検閲を回避してニュースサイトを見るために、700万人以上が暮らすこの紛争地帯の多くの人たちは、VPNサービスを使い始めたのだ。

インド政府は、カシミール地方の半自治権を取り消した2019年8月の頭から、ジャンムーとカシミールでインターネットへのアクセスを遮断した。この措置は、当地区の治安を維持するための正当なものだとインド政府は主張している。その数カ月後、無期限のインターネット遮断を広い範囲に強いている政府に対してインドの最高裁判所は苦言を呈した。

「政府は、その地域からどのような情報が発信されるかを、ほぼ完全にコントロールしています」と、人権擁護団体アムネスティ・インターナショナル・インド事務局長Avinash Kumar(アビナシュ・クマール)氏は言う。

「政府には国の法と秩序を守る責務がありますが、あいまいで漠然とした申し出をUAPAのようなテロ対策法を根拠に捜査したり、ソーシャルメディア・サイトをブロックすることでは解決になりません。インド政府に必要なのは、まず人権を重視し、カシミールの人々に自由に発言させることです」と彼は政府に促した。

ニューデリーを拠点とするソフトウェア・法律・自由センターの事務局長Mishi Choudhary(ミシ・チョードリー)氏は、当局はVNPを使った人を追いかける必要などなく、他のすべての民主的社会と同じようにインターネットを解禁すべきだと語っている。

「疑わしい噂には、同じソーシャルメディア・プラットフォームで正確な情報を数多く提供することで対処できます。内容に基づく発言の制限は、憲法で定められた制限の範囲内でのみ許されるものであり、その場しのぎで行われるべきではありません」と彼女は言う。

画像クレジット:Waseem Andrabi / Hindustan Times / Getty Images

[原文へ]
(翻訳:金井哲夫)

インターネット分断時代にあってGoogleの影響力は急速に失われつつある

さて、1月2日になってMediumで今度はテック企業の幹部が怒りの辞任発表を行った。Ross LaJeunesse(ロス・ラジュネス)氏が1月2日に投稿した内容がそれだ。同氏は、Google(グーグル)の国際関係の元責任者で、同社で10年以上にわたりさまざまな役割を務めた。同氏は、Googleが人権重視の企業であろうとする志を失いつつあると非難し、技術と資本主義の未来について一連の問いを投げかけた。

重要なのは、米国を代表する会社がこれほど劇的に変わってしまうということが一体何を意味するのか、という問いだと思う。社会的影響や責任よりも、成長と利益に報いる企業文化がもたらした必然的な結果だろうか。米国の連邦政府を覆う腐敗に関係があるのか。「強い男」のリーダーが世界中で権力を握り、そこでは「正しい」か「間違っている」かに関する問いが無視され、私利私欲と利権が優先される、そういう世界的な傾向の一部なのか。最後に、「かつては」素晴らしかった米国の会社が、世界中の何十億人ものユーザーに関する大量のデータを管理すると、我々一人一人にどう影響するだろうか。

投稿全体が興味深い。Googleの中国事業、Project Dragonflyにおける検索検閲の危機、Google Cloudのサウジアラビアのアプリ、同氏のGoogle HRとのやり取りについて触れている。

これは一種のマニフェストだが、ラジュネス氏が共和党の現職Susan Collins(スーザン・コリンズ)氏の対抗馬としてメイン州の上院議員選挙で民主党予備選に出馬していることを考えれば、おそらく驚くべきことではない。同氏の巨大テック企業に対する批判は、ミズーリ州の共和党上院議員のJosh Hawley(ジョシュ・ホーリー)氏とも似ているために、魅力的な政治戦略にもなっている。

議論の中心にある重要な問いに焦点を当てたい。グーグルには、技術が社会に与える影響に関して、「善良」または「邪悪」になる能力はあるのか。世界中の国々で、人権の観点から違いを作り出せる影響力があるだろうか。筆者の答えはこうだ。同社が持っていた大きな影響力は、残念ながら極めて急速に失われつつある。

筆者は、文字どおり何年もの間、インターネットがさまざまな影響圏に分断されることについて取り上げてきた。中国のような国だけでなく、ロシア、イランなども、インターネットのネットワークとアプリケーションをより正確にコントロールし、インターネットの本来の開放性と自由​​の精神に覆いを被せ、この通信媒体を鉄拳の管理下に置く。

分断が進めば、グーグルShutterstockNBAのような企業は、筆者が「権威主義の足かせ」と呼ぶ状況に直面する機会が増える。インターネットをコントロールする国々に協力して現地のルールに従うのか、単に撤退するのか。その選択は自国の市場にも派生し深刻な影響を及ぼす。

企業には選択の幅が与えられているわけだ。Shutterstockは天安門広場での抗議の写真に対する中国の方針を変えるつもりはない。Googleが中国で検索エンジンを立ち上げるつもりがなく、憂うべきサウジアラビアの女性の権利を変えようとしないのと同じだ。

影響力を持つには、企業の製品やサービスが市場で独占状態にあり、独裁政権が企業の提示する条件を受け入れざるを得ないほど独占が進んでいることが必要だ。言い換えれば、極端な力関係の差による「てこ」が要る。独裁政権に対し「ノー。ふざけるな。どうなるか見ておけ。我々は人権を尊重する。この問題にお前に選択肢はない」と言える能力だ。

テック企業が認識しつつあるのは、グーグル、Facebook(フェイスブック)、Apple(アップル)、Amazon(アマゾン)、Microsoft(マイクロソフト)といった巨大企業でさえ、権威主義的な国々でてこなどというものはまったく持ちあわせていないということだ。中国の下請業者を通じて何十万人もの労働者を雇用しているアップルでさえ、中国で目立った変化を起こすことはもうできない。イランは、その国での政治的抗議の激しさを和らげるために、一定期間インターネットを閉鎖した。ロシアは先週、いざとなったら使用不能にできるか確認するためインターネットの遮断をテストした。あらゆる国がスイッチを切るだけで「技術」をオフにできるなら、そもそも巨大企業がてこを持っていると言えるのか。

企業が持つパワーが縮小する傾向に対して、テック企業、特に米国のテック企業は十分に対処しきれていない。もはや企業の意思決定に選択の余地はない。中国には独自の検索エンジンがあり、米国の親会社、究極的には米国の方針に煩わされない独自の携帯電話エコシステムがある。Azureがサウジアラビアから撤退すれば、代わってAlibaba Cloudが喜んでそのスペースに踏み込み、金を稼ぐことになる。

ラジュネス氏がGoogleに対し、同社の価値を明文化するよう社内で要求したときの様子について、同氏がコメントしている。

私の解決策は、全社に適用される正式な人権プログラムの採用を提唱することだった。そのプログラムでは、国連の人権宣言がうたっている人権に関する原則の遵守をGoogleが公約し、製品設計のさまざまな局面で製品およびエンジニアリングチームが内部レビューを受けるメカニズムが導入され、主要な製品の発売と市場参入の際に人権への影響を評価することが義務付けられる。

より良い製品設計レビュープロセスが世界の人権改善に貢献するという楽観的な世界感は、慰めにしかならないかもしれない。問題は以前よりはるかに単純だ。人権に関する内規や何らかの市場参入審査プロセスは不要だ。市場に参加するのか、しないのかの二択だ。権威主義的な国で製品やサービスを立ち上げ、避けて通れない人権侵害の問題と同時に、自国市場で消費者からの抗議に対処するか、価値を堅持し、蜃気楼の中に見える独裁政権下での将来の利益を無視して立ち去るかだ。

だから筆者は最近、GoogleとNBAはただ立ち去るべきだと主張した。筆者の信念は変わらない。筆者がShutterstockに対し、中国を去って同社のより開放的で自由な価値に立ち返るよう呼びかけたのも同じだ。もはや米国のテック企業は、10年前と同じように人権問題にくさびを打つことはできない。インターネットは分断され、データの国家主権が高まっており、関わるか逃げるかの二者択一になる。究極的には、私はラジュネス氏の側につく。企業は去るべきだ。それ以外にほとんど選択肢はない。

[原文へ]

(翻訳:Mizoguchi)

元Googleのポリシー責任者が人権を軽視した社内事情を揶揄

Google(グーグル)の国際関係責任者だったRoss LaJeunesse(ロス・ラジュネス)氏は、2019年に退社するまで10年以上にわたり、政府とポリシーに関する問題に取り組んできたが、かつてのGoogleの「悪に染まるな」という企業理念を達成できていないことを非難する新生(元)グーグラー(Google社員)となった。

現在最も注目すべきは、ラジュネス氏がその主張を掲げ、共和党スーザン・コリンズ氏に対抗して、米国上院議員選挙にメーン州の民主党から立候補しようとしていることだ。その長いブログ記事で、彼は(よりよく、より公平な世界を築く)Googleに入社し、そしてとうとう退職した理由を述べているが、言うなればこれは新年にあたって「禊ぎ」を行ったようなものだ。

このブログ記事は、長年Googleに勤めてきたことで、選挙運動中に直面するであろう厳しい質問を予期して受け流せるようにすることを意図している。そのため、例えば「Googleのような巨大ハイテク企業が、政府の監視の外で比較的自由にやれた時代は終わった」というような、あからさまに政治的メッセージが込められている。

それでも、この記事はGoogleにとっては気まずいものだ。とはいえ、企業文化や多様性に対する態度から製品開発における倫理感など、一連の問題に対する現役社員たちの運動ほどではないが。

ラジュネス氏によれば、(名前は伏せたものの)経営陣たちは、全社を挙げた人権プログラムを導入すべきという彼の提案を、懸命に拒否してきたという。その提案とは「国連人権宣言に準拠した基本的人権の原則を守ることをGoogleが公的に約束し、製品とエンジニアリング・チームに、製品開発要素を内部審査できるメカニズムを提供し、ローンチまたは市場投入される主要製品のすべてに対して人権影響評価を行うことを正式化する」という内容だ。

「私が人権プログラムを推奨するごとに、経営陣は拒否のための言い訳を伝えに来た」とラジュネス氏は暴露している。さらに、結果として彼は、Googleの中国市場への復帰を目指す検閲付きの検索プロジェクトに関連するポリシーの議論から外されるようになったという。

コードネームを「ドラゴンフライ」という異論の多いこのプロジェクトは、米国議会が疑問を呈した後に中止されたとラジュネス氏は述べている。それは、強大なハイテク企業に有効な制限を加えることができるのは政治による監視だけだという、ブログ記事全体を通した主張を裏付けている。2020年に米国で行われる選挙に向けて、すでにこの問題は絶え間なく鳴り響いている。

彼は以下のように書いている。

当初、(Google経営陣は)人権問題は個別のプロジェクトにするのではなく、製品チームが扱うべきだと言っていた。しかし、製品チームは業務としての人権問題の対処法を教育されていない。私が再度、経営陣のところへ行きプログラムの導入を訴えると、会社の法的責任が増加するのは困ると彼らは言い出した。私たちは、そうした懸念には根拠がないと断言する外部の専門家の意見を伝えた。この時点で、私の同僚の一人が、突然、ドラゴンフライを議論する部門に異動となった。人権を基本とするアプローチを一環して擁護してきた私は、ドラゴンフライをローンチすべきか否かの話し合いから外されてしまった。そのとき、会社は事業や製品に関する意思決定に基本的人権の原則を採り入れる気は一切ないのだと悟った。そのときGoogleは、さらなる利益や株価の上昇を追求するのではなく、まさに人権擁護を確約すべきときだったにも関わらずだ。

Googleにコメントを求めると、広報担当者から、ある女性広報担当者名義の声明が送られてきた。「私たちは、人権擁護団体や運動への揺るぎない支援を約束してます。この約束は、すでに広く報じられ、多くのメンバーを苦しめているポリシー部門の再編とは無関係であり、そこからは何ら影響を受けません。この再編の一環として、ロスには地位と給与の水準を保ったまま新しい役職が提示されましたが、彼は拒否しました。私たちは、ロスが政治の世界で願望を叶えられるよう祈っています」。

ラジュネス氏のブログ記事には、Googleの職場習慣についても書かれていた。いじめや人種差別的な偏見が日常化していたという。

経営陣が積極的に多様性の問題に対処しようとしていた間においてすらだ。職場の習慣に変化はなかった。先輩社員からいじめられ怒鳴りつけられた若い女性社員たちは、デスクで泣いていた。全体会議では、私のボスはこう話していた。「これで、お前らアジア人もマイクの前に立てるようになった。質問をしたいとは思わないだろうが」。別の全体会議では、ポリシー部門全体がいくつかの部屋に分けられ、「多様性訓練」に参加するように言われた。私は「ホモ」と名付けられたグループに入れられた。そこではグループのメンバーが「女男」とか「両刀遣い」などという偏見的な言葉を叫び合う。有色人種の同僚たちは、その近くの「アジア人」と「茶色人」の部屋にグループ分けされた。

この件についても、私たちはGoogleに問い合わせている。返答があれば更新情報を掲載する予定だ。これは明らかに、元Google社員で、元雇い主を公に非難することで築かれる政治的資本があると信じ上院議員を目指す元Google社員による「テックラッシュ」(巨大ハイテク企業への反発)の時代の兆候だ。

「どのように選挙を行うか、どのように子どもたちを楽しませ教育するかといった、私たちの日常におけるこれらの企業の役割は、影響力を持つ株主たち(特にGoogle、Amazon、Facebook、Snapの場合は仲良しの同僚であったり創業者であったりするが)を儲けさせるためだけに業務を行う経営陣の手に委ねるには、あまりにも大きすぎる」とラジュネス氏は、その矛先をFAANG全体にも向けつつ書いている。11月の投票までに、巨大ハイテク企業のお菓子箱からさらに何が飛び出すか楽しみだ。

[原文へ]

(翻訳:金井哲夫)

Facebookは人権侵害する国にデータを保管しない、ただしシンガポールを除く

Mark Zuckerberg(マーク・ザッカーバーグ)氏が3225ワードにわたる長文のブログ記事で、人権の守られていない国にはデータセンターを建設しないと宣言して間もなく、彼は約束を破った。

彼はシンガポールを例外扱いすることを選んだ。Facebookのファウンダーはわずか数ヶ月前の投稿で、「全員にサービスを提供」するために、同社にとってアジア初のデータセンターをこのミニ国家に作ると宣言した。

ザッカーバーグ氏は明快だった。「世界中に基盤を構築していく中で、われわれはプライバシーや表現の自由などの人権を侵害した歴史のある国にはデータセンターを置かないことに決めた」

シンガポールについて知られていることが2つあるとすれば、プライバシーも表現の自由もないことだろう。

その華やかさと経済力をよそに、シンガポールの人権の歴史は国際的認識のはるか下を行っている。人口500万人のこの国は人権団体による世界ランキングで最下位に近く、それは言論、表現、集会の自由に反対する圧政的法律と、 拡大する監視社会の元でのプライバシー権利の制限などが理由だ。さらに悪いことに、この国はLGBTQ+コミュニティーに対する残虐な扱いでも知られており、彼らの行動は極度に制限され、公衆でのあらゆる行動や表現は犯罪とみなされている。メディアさえも厳重な監視を受け、政府による懲戒や名誉毀損訴訟による脅迫が後を絶たない。

国境なき記者団は、シンガポールを「不寛容な政府」を持つ国であると言い、ヒューマン・ライツ・ウォッチはこの国の制限の厳しい法律を「ドラコンのように過酷」であると評している。

われわれはこうした指摘をFacebookにぶつけてみたが、同社はザッカーバーグ氏の発言が矛盾するとも偽善であるとも見ていない。

「データセンターをどこに新設するかは多段階のプロセスであり、再生可能エネルギー、インターネット接続、地元の強力な人材資源など、何十種類もの要素を考慮しなくはならない」とFacebookの広報担当者Jennifer Hakes氏は言った。「しかし最重要な要素は、その設備に保存されたあらゆるユーザーデータを、われわれが確実に守れることだ」

「これはザッカーバーグ氏が先週の投稿で強調した重要な点だった」とHakes氏は言った。「我々はシンガポールについてこれらの要素を慎重に検討した結果、アジア初のデータセンターに適切な場所であるという結論を下した」

皮肉なことに、Facebook自身のプラットフォームは、シンガポール政府によるよる口うるさい反対者の取締りの標的になっている。活動家のJolovan Wham氏は、Facebookページで 集会を組織した後に投獄された。集会許可申請が却下されたため、Wham氏は連絡手段をSkype通話に切り替えた。

Facebookに、どんな場合にある国の人権を容認できないのか尋ねたところ、ザッカーバーグ氏の投稿を再度指し示しただけだった。

シンガポールは今でもIT業界とビジネスにとって重要な拠点であり(特に欧米企業にとって)、そのため日頃プライバシーと言論の自由への強い意志を強調している会社も、人権を捨ててきた。AmazonMicrosoftGoogleDigitalOcean, Linode、およびOVHの各社はいずれもこのミニ国家にデータセンターを置いている。

しかし、現時点で人権の歴史に汚点のある国にデータを保存しないと公約しているのは1社だけだ。

なぜFacebookはシンガポールを例外にしたのか?これはザッカーバーグ氏にしかわからない謎だ。

[原文へ]

(翻訳:Nob Takahashi / facebook

Googleの契約社員たちが賃上げと福利厚生を要求

Googleの契約社員は、内部では臨時社員(Temporary)、業者出向社員(Vendor)、契約社員(Contractors, 請負社員)、合わせてTVCと呼ばれている。彼らは、より良い、平等な扱いを求めている。それは、今よりも良い賃金と福利厚生、そして会社の情報へのアクセスの向上を意味している。GoogleのCEO Sundar Pichaiに宛てた書簡で彼らは、Googleは“仕事や生活に関係のある情報へのTVCたちのアクセスを、当たり前のように拒否している”、と主張している。

TVCたちによると、たとえば4月のYouTubeにおける銃撃事件でGoogleは、正社員にのみアップデートを送った。次の日の討議集会でも、彼らは除外された。

書簡は次のように主張している: “重要なコミュニケーションと公平な扱いからTVCを排除することは、会社に定着している人種差別、性差別、およびわれわれ等に対する差別的待遇のシステムの一環である。TVCは不条理にも軽視され、より少ない報酬や機会、職場におけるより少ない保護や尊敬がふさわしい者として扱われている。われわれは正社員とは違うバッジを着用し、それに基づいて恣意的で差別的な分離が強制されている。正社員と同じ仕事をするときですら、これらの仕事には一貫して生活給の提供が行われず、最低限の福利厚生もないことが多い”。

7月のBloombergの記事によると、Googleはその総スタッフの過半数がTVCである。彼らはさまざまな仕事を担当し、それらの中には、配膳、自動運転車のテスト、チームの管理なども含まれている。

TVCによるこの抗議活動の前にGoogleは、セクハラと暴行の申し立てに起因する社員の要求に応じて部分的な譲歩をしている。それによって多少の変更は為されたが、そのときの活動を組織した者たちの要求のすべてには対応していない。たとえばGoogleは、チーフ・ダイヴァーシティ・オフィサー(多様性最高責任者)をPichaiの直属にするという格上げには応じず、取締役会に社員代表を加えよという要求は無視した。

今Googleに問い合わせているので、情報が得られ次第この記事をアップデートしたい。

関連記事: Googleのストライキ主催者たちはCEOの対応に満足していない

画像クレジット: TechCrunch

[原文へ]
(翻訳:iwatani(a.k.a. hiwa

アメリカの複数の国会議員がAmazonの顔認識ソフトウェアの精度で質問状、表現の自由の無視、人種差別の疑いも

一部の国会議員たちは、Amazonがその物議をかもしている顔認識ソフトウェアRekognitionに関する質問に“十分な答を提供していない”とし、いつものように質問に無言で応じることは、答とは認めない、と主張している。

質問状には、上院議員のEdward Markeyや下院のJohn LewisとJudy Chuら8名の議員が署名し、同社の技術の仕組みやその使われ方について、Amazonの最高経営責任者Jeff Bezosに説明を求めている。

書状が送られたのは、このクラウドとリテールの巨大企業が、アメリカ政府およびフロリダ州オーランドを含むアメリカの一部の大都市からサーベイランスを受注して注目を集めた直後だ。

質問の主旨は議員たちによると、“Amazonがそのバイオメトリックス技術をアメリカの移民関税執行局(Immigration and Customs Enforcement, ICE)に積極的に売り込んでいるが、そのパイロット事業にはAmazonによる法執行職員たちに対する実地訓練が欠けている、という報道を契機として、高まった懸念を表明すること”、だという。

議員たちによると、そのシステムは精度に問題があり、人種的偏りに導きかねず、憲法で保証されている表現の自由を犯すおそれもある、という。

書簡は曰く: “しかしながら、現時点では、このタイプのプロダクトには深刻な精度の問題があるという重大な懸念を持たざるをえない。それにより有色者のコミュニティにいわれなき重荷を強い、公共の場において修正第一条の権利を実行したいとするアメリカ人の意思を抑圧するおそれもある”。

議員たちは、Amazonがどうやって精度をテストしたのか、それらのテストは独立的客観的に実施されたのか、そして偏りをどのようにテストしたのか、Amazonに説明を求めている。

[Amazonは耳に栓をするのではなく、顔のサーベイランスが誰にでももたらす深刻な脅威に関し責任を取る必要がある。とくに脅威が大きいのは、有色者や移民、そして活動家だ。Rekognitionを警察やICEの手に渡すべきでない。]

この質問状送付は、ACLUが、そのソフトウェアが28名の議員の顔認識に失敗したことを見つけたあとに行われた。とくに失敗率が高かったのは、有色者だった。

顔認識のソフトウェアは、そもそもの最初から物議を招いている。自社の社員たちからの懸念表明があったあとでもAmazonは、にもかかわらず現状の計画を推進し、何がなんでもその技術を売っていく、と言っている。

Amazonは、二週間あまりのうちに、質問状に答えなければならない。Amazonのスポークスパーソンは、コメントの要求に応じなかった。

関連記事: Amazonは顧客のメールアドレスを露出したことを認めたが詳細を明かさず〔未訳〕

[原文へ]
(翻訳:iwatani(a.k.a. hiwa

Facebookはプラットフォーム上での16才の花嫁オークションを防げなかった

Facebookは、同社が展開するプラットフォームで南スーダンの16才の少女が花嫁としてオークションにかけられるのを防ぐことができなかった。

戦争で荒廃した地域に住む思春期の少女が抱える多くのリスクについてまとめている国際NGOプランインターナショナルの最新レポートによると、子どもの強制結婚(Child early and forced marriage =CEFM)は南スーダンで最も多く報告されているジェンダーに基づく暴力なのだという。

そうした地域に住む少女はいま、ソーシャルメディアについても心配しなければならないようだ。

Viceがこの件について昨日詳細に報じた。それによると、Facebookは少女がすでに結婚してしまった後にオークションの投稿を削除した。この削除は、少女の家族が10月25日にFacebookのプラットフォームで子どもを売るとアナウンスしてから2週間以上たってのことだった。

オークションの投稿に気づいたのは11月9日で、気づいてから24時間以内に削除した、とFacebookは言っている。その24時間のうち、投稿を削除するとFacebookが決定するのに何時間かかったのかは不明だ。

オークションを落札したのは南スーダンの首都に住む大富豪のビジネスマンで、記録的な“値段”で競り落としたと報道されている。その少女Nyalong Ngong Deng Jalangと結婚するのに払われた値段とは、牛530頭、3台のランドクルーザーV8、そして1万ドルだ。

プランインターナショナルは、子どもの花嫁オークションにFacebookが使用されたと確認された初の事案だ、とViceに語っている。

「これはかなり憂慮すべき事案だ。というのも、かなりもうけのある取引で、多くの注意をひきつけた。今回の件が、他の人も後に続こうとインセンティブのように作用するのではと憂慮している」としている。

別の人権NGOは、削除されたオークション投稿のスクリーンキャプチャをTwitterに投稿し、こう書き込んでいる:人権グループによるさまざまな訴えにもかかわらず、16才の少女が南スーダンでFacebookが削除しなかったオンライン結婚オークション投稿の犠牲になった。

なぜオークションを防ぐことができなかったのか、我々がFacebookに説明を求めたところ、広報から次のような返事があった。

投稿、ページ、広告、グループといった全てのフォームにおいて、Facebookではいかなる人身売買も許されない。我々は投稿を削除し、この投稿を行なった人のアカウントを永久使用禁止にした。我々は、安全・セキュリティチームの人員を3万人超に倍増させ、またテクノロジーに投資するなど、我々のポリシーに反するコンテンツを特定するための方策改善に常に取り組んでいる。

オークションが投稿されてから、その投稿がFacebookによって削除されるまでに2週間以上も間があったというのは、モデレーションプロセスの改善にたっぷり投資してきたというFacebookの主張に深刻な疑念を生じさせる。

人権グループはこの投稿についてFacebookに直接注意を促そうとした。またこの投稿は、かなり地元のメディアの注意もひいたとされている。にもかかわらず、投稿を認識して行動に移すまで数週間もかかったーFacebookの対応は遅きに失し、行動したときにはすでに少女は売られ、結婚してしまっていた。

Facebookはプラットフォームについて国レベルでのデータは公開していないので、南スーダンにどのくらいのユーザーがいるのかは不明だ。

また、世界のコンテンツプラットフォーム(20億人超のユーザーを抱える)のコンテンツレビューを実行するためにFacebookが雇用、もしくは契約しているおおよそ1万5000人をどのように配置しているのかも明らかではない。

Facebookは、コンテンツをレビューする人がプラットフォームが使われている世界各地の言語を理解するわけではないことを認めている。彼らは世界で広く使われている言語ですら話すわけでもない。なので、南スーダンで使用されている言語をしっかり理解できるレビュー者がいる、というのはとても考えられない。

我々はFacebookに、南スーダンで使用されている言語(複数だ)のいずれかを話せるモデレーターを何人配置しているのか尋ねた。広報はすぐさま回答することはできなかった。

Facebookが少ない数のレビュー者(トータルのユーザー数と比較しての話だ)に頼り、遠くからのコンテンツレビューを行なっているということの結末が、人権リスクへの素早い対応がすべきときに行えていないということになる。

事業を展開する全てのマーケットにおいて、プラットフォームでつくられるリスクに直接、そして素早く対応できるよう、言語的そして文化的にセンシティブでならなければならないところにFacebookはレビューチームを配置できていない(かなり多くのレビュー者がドイツに配置されているードイツでは1年前にソーシャルメディアヘイトスピーチ法案が可決された)。

AIもまた、この難題を解決はしないー人間の時間の尺度でもだ。そのため、Facebookはこの作業を実際に人にさせている。

しかし少女花嫁オークションに気づいて削除するのに2週間というのは、いくらなんでも時間がかかりすぎた。

実に高いコストを伴うことになるかもしれないテクノロジーツールが人権に与える影響を監視し、管理するために、Facebookが国際事業全般にわたって十分に投資できていないという実態が鮮明になりつつある。

南スーダンにおいては、不十分な監視がハイテック奴隷マーケットと同等のことのためにプラットフォームが利用されるという事態を招いた。

Facebookはまたミャンマーでの深刻な過失でも窮地に立たされている。ミャンマーでは、Facebookのプラットフォームがヘイトスピーチを広め、民族抗争を激化させたとして非難されてきた。

チェックされていないソーシャルメディアツールにアクセスすることで、幇助されている他の人権侵害を我々はまたすぐ目にすることになる。

[原文へ]

(翻訳:Mizoguchi)

Googleを辞めた研究員がProject Dragonflyの人権違反懸念で上院に書簡を送った

上院の通商科学運輸委員会に宛てた書簡で、元Googleの研究員Jack Poulsonが、8月の終わりに同社を辞めた理由を詳しく述べている。今週初めに送られたその小文は、Project Dragonfly(蜻蛉プロジェクト)に対する、増大する懸念を詳述している。それは、中国市場に有意に参入しようとするGoogleの試みだ。

書簡は上院が、データに関する懸念に関してGoogleの新任プライバシー最高責任者(chief privacy officer) Keith Enrightを喚問しようとしていたときに届いた。Dragonflyも、委員会の議題に上(のぼ)る予定だったと思われる。そのプロジェクトは“喫緊の道徳的倫理的問題を喚起する”、と書かれた先月の別の書簡には、1400名近くのGoogle社員が署名していた。

Poulsonは自分の書簡に、“注目すべきは、Project Dragonflyが、同社のAI Principles(AI原則)がリリースされた同時期に進められていたことだ”、と書いている。Poulsonによると、“人権団体や調査報道記者、Googleの社員、そして多くの国民の理解によれば、Project DragonflyはAI Principlesの、‘その目的が広く受け入れられている人権の原則に背反している、技術の設計や展開には手を染めない’とする原則に、真っ向から違反している”、という。

Poulsonは、社内で特に問題になった4点を挙げている。そのリストには、検索のクエリに(質問者の)電話番号を伴わせることや、中国政府と共同開発した“人権”、“学生の抗議”、“ノーベル賞”などの検索ワードのブラックリスト、などがある。Poulsonは、大気の質に関するデータの政府によるコントロール、そして“内部的なプライバシーレビュープロセスの壊滅的不履行”、なども挙げている。

最近の新聞報道によれば、GoogleのCEO Sundar Pichaiは、Googleの中国進出計画や、検索の偏りをめぐって、共和党議員への説明を求められている。

画像クレジット: TechCrunch

[原文へ]
(翻訳:iwatani(a.k.a. hiwa