ACLU（米国自由人権協会）は我々に、昨年「Amazonの従業員が、同社の顔認識技術を売り込みむために、ICE（米国移民・関税執行局）の担当者と会った」という情報を教えてくれた。Amazonの副社長Brad Huseman（ブラッド・ヒューズマン）氏は後に「政府は最高のテクノロジーを採用すべきだと考えている」と語っている。そして先月には、Amazonが全国の警察と（カメラ付きドアホンである）Ring製品を使った「永続的な監視ネットワーク」の作成で提携したことを、Motherboardが明らかにした。
耳タコだろうが、言わせてほしい「一体どうした、Amazon？」と。
Amazonの株主、技術系従業員、倉庫従業員、そして顧客たちのいずれもが、（顔認識技術の）RekognitionをICEに対して売り込むことへ抗議の声を上げている。特に500人を超えるAmazonの技術系従業員が抗議書簡に署名している。だがAmazonの経営陣はいまのところ、彼らに対して誠意を持って対応して行くようには見えない。
その代わりにAmazonは「Facts on Facial Recognition with Artificial Intelligence（」（人工知能による顔認識の事実）ページで、彼らの技術で唯一問題となるのは偽陽性（本当は違うものを間違って認識してしまうこと）の可能性であると自分自身を擁護している。そして及び腰で中途半端に以下のような提案をしているのだ「公共の安全と法執行のシナリオの中で、Amazon Rekognitionのような技術は、一致の可能性のある対象を絞り込むためにのみ使用されるべきです。顔面認識ソフトウェアは自律的に使用されるべきではありません」。
だが技術的な懸念は、オーランドにおけるRekognitionのパイロットプログラムが中止されたことからも、現実的なものなのである。しかし私は、テック企業たちが、バグを修正したりその技術を意図通りに動作させたりすること以上の部分には、まるで責任を持っていないかのように振る舞う態度に、うんざりしているのだ。その意図そのものが問題であることもあるからだ。
「私は、新技術の悪い使い方に対して、社会が免疫反応を獲得すると考えていますが、そのためには時間がかかるでしょう」とJeff Bezos（ジェフ・ベゾス）氏は語っている。今のところそれが現実だ。しかし当然のことながら、社会が免疫反応を獲得していない当面の間、悪用については特に慎重になるべきだ。さらに大切なことは、世界で最も裕福な人物は、新しい技術に対する社会の反応をより良く導いていく際に、自分自身の重要な役割を放棄してはいけないということだ。
問うべきは、Rekognitionの技術的な問題が解決できるかどうかではない。真に問うべきは、社会のあらゆる場所に存在するパノプティコン型（監視されている側はどう監視されているかがわからず監視する側は全方向を監視できるタイプの監獄）監視を可能にするために、政府や法執行機関にRekognitionを販売することが、世界のどの社会にとっても良いことかどうかということなのだ。「現在合法であるならば、大丈夫な筈だ」とか「民主主義制度が私たちを害から守ってくれるから、技術痛の私が将来のことを心配する必要はない」と言う態度は、危険な知的怠惰なのである。
現実には、法律は新技術への対応が非常に遅く、私たちの制度はますます硬化して麻痺している。なにしろシリコンバレーは他の文脈であなたに語りかけるのにあまりにも熱心だからだ。私たちの「免疫反応」を彼らに頼ることは、意図的な過失となる。もちろん、火のような技術は良いことにも悪いことにも使用できる。しかし雨季に比べて危険性の高い季節には、私たちは火に対して遥かに注意深くならなければならない。そしてそれに応じてリスク評価を調整するのだ。テック企業たちが、彼らの生み出すリスクに対する責任を取りたがらないことは、単なる心配のレベルを超えている。
既に触れたように、テック企業に対する、唯一の本当の、少なくともリアルタイムのチェックは企業自身の従業員によって行われるものだ。そのため、AWSの従業員たちが会社のポリシーに反対するのを見ることは心強いことである、だがAmazonが誠意をもって彼らに対応することを拒否するのではないかということが心配される。世界は、ベゾス氏とAmazonが、自社の技術の危険性に関する重要な質問を避けながら、他の部門に手渡してしまうことよりも、ましな対応をしてくれることを期待している。
Facebookには別の危険な物語がつきまとう。今では信じられないかもしれないが、それほど遠くもない昔には、彼らは広く尊敬され、信頼され、愛されてさえいたのだ。AmazonやFacebookのような会社に対する反発は、最初は過激派からのちょっとした難癖のように見える。だが時に、その苦情の小石たちは合わさって、突然軽蔑の地滑りとなって襲いかかるのだ。そうしたテックラッシュ（テクノロジーに対する反発）が、これまでのヒーローを徹底した近代的悪役へと引きずり下ろしてしまう前に、Amazonが光を見出すことを願っておこう。
[原文へ]
（翻訳：sako）
