そのリスクに照準を合わせたAI規制計画の一環として、EUの議員たちは個人の権利を守るために顔認証を一時的に使用禁止することを検討している。そうした中、ロンドン警視庁は1月24日、プライバシーの敵となるテクノロジーの配備を開始した。英国の首都でライブの顔認証の運用を始めた。
今回の導入は、ロンドン警視庁とサウスウェールズ警察による複数年の試験を経たものとなる。
議論を呼んでいるテクノロジーの使用は「重罪犯がいそうだと情報機関が考える特定の場所」をターゲットとしている、とロンドン警視庁は話す。
「捜索されている個人、重大な事件を起こして指名手配されている人物の画像からなる専用の『ウォッチリスト』が使われる」と付け加えた。
また、カメラには「明確に標識が付けられ」、運用に専従する警官がこうした取り組みに関するリーフレットを配布する、とも述べた。
「配備にあたって、カメラは通行人をスキャンするためにごく限られた場所にフォーカスする」と書いている。「独立したシステムであるこのテクノロジーは、CCTV（監視カメラ）やボディカメラ、ANPR（自動車ナンバー自動読取装置）などのいかなる画像システムともリンクしていない」
この生体認証システムは、日本のIT・エレクトロニクス大手であるNECが納入した。
プレスリリースで、警視正のNick Ephgrave（ニック・エファグレイブ）氏は、議論が残るテックの使用に際して、バランスが取れたアプローチをとっている、と主張した。
「我々はみな、安全な街に住んで働きたい。社会は当然のことながら犯罪を防止するために、広く利用可能なテクノロジーの使用を期待している。同時に人々のプライバシーと人権の保護を確かなものにするため、我々は正しいセーフガードと透明性を確保しなければならない。我々の注意深く熟慮されたライブ顔認証の配備はバランスがとれていると確信している」と述べた。
ロンドンでは近年、暴力犯罪が増加している。2019年の殺人事件発生率は過去10年で最も高かった。
暴力犯罪の増加は警察サービスの削減と関連しているが、新しい保守党政権は先にトーリー党政権が定めた警察サービス削減を取り消すことを公約していた。
ロンドン警視庁は、重大な暴力や銃剣犯罪、児童の性的搾取などを含む深刻な犯罪との戦いにAIを活用したテックが役立ち、「弱者の保護を手伝う」ことを望んでいる、と話す。
しかし顔認証システムで、例えばAIアルゴリズムを洗練させるために利用されるデータセット内にある偏見のような要因によって人種差別が起こりやすくなることを考えると、ロンドン警視庁の主張はかなりの皮肉だ。
実際、警察による顔認証の使用が、すでに不平等や差別という不当なリスクに直面している弱者グループにさらなる害を及ぼすかもしれないという懸念がある。
にもかかわらず、ロンドン警視庁のPRではAIテックに潜む偏見のリスクについて言及していない。
その代わりに、警官をアシストする「追加のツール」としてテクノロジーをしのばせるために、苦痛を生み出している。
「これはテクノロジーが従来の警務に取って代わるというものではない。単純に警官に対して『そこにいる人物は捜索している人かもしれない』と『すばやく』暗示するシステムだ。行動をとるかどうかは常に警官が判断する」と付け加えた。
新たなテックツールの使用は小規模で始まるかもしれないが、ソフトウェア開発の歴史は、それがいかに拡大していきやすいかを示している。
ターゲットを絞った小規模な立ち上げは、少しずつ導入することによって大きな議論を呼び起こしている人権に敵対するテクノロジー（別名、忍びよる監視）を広く社会に受け入れてもらうための準備となっている。
他方で、先週リークされたAI規制のためのEU提案ドラフトには、公共スペースにおける顔認証の一時的な禁止が盛り込まれていて、使用禁止は「個人の人権を守る」だろうと書かれている。しかし、そうした包括的な方策が、たとえ一時的にせよ、賛同を得られるかはまだ不透明だ。
英国の人権グループは、顔認証に対する懸念を無視するロンドン警視庁の決定に警鐘を鳴らす。
Libertyは、最初の試験中に委託したレポートの結論を無視するものだと非難した。レポートではロンドン警視庁が人権への影響を考慮しなかったと結論づけている。
また、顔認証の使用は鍵となる法的必要条件に合致していないとも指摘している。
「人権法では、個人の権利を妨げるものは、法律に従い、正当な目的があり、『民主社会で必要なもの』と定めている」とレポートには書かれていて、ロンドン警視庁の顔認証技術の初期の実験は法に反して行われた可能性がある、とほのめかしている。
When the Met trialled #FacialRecognition tech, it commissioned an independent review of its use.
Its conclusions:
The Met failed to consider the human rights impact of the tech
— Liberty (@libertyhq) January 24, 2020
公共スペースでの顔認証を阻止するためのLibertyの請願にはすでに2万1000もの署名が集まっている。
顔認証をめぐる法的枠組みと法施行について先週議論した、デジタル権と規制を専門とするUCLの講師Michael Veale（マイケル・ヴィール）博士は、EUのデータ保護フレームワークであるGDPRは、例外を制定することなく監視目的での私企業による顔認証を禁じている、とTechCrunchに話した。
英国の男性はウェールズ警察による初期の顔認証実験で訴訟を起こした。人権をめぐり第1審では敗訴したものの、上訴を検討している。ロンドン警視庁のケースでは企業（NEC）がサービスを警察に提供しているが、訴訟は警察のテック使用に関係するものだ。
画像クレジット: Steffi Loos/Getty Images
[原文へ]
（翻訳：Mizoguchi）