40名の議員からなる欧州議会の超党派グループは、人工知能（AI）に関する立法案を強化し、公共の場所における顔認証やその他の生体認証による監視を完全に禁止することを委員会に求めている。
また、このグループは、個人を特定できる特徴（性別、性的区別、人種・民族、健康状態、障害など）を自動認証することも禁止するよう議会に要求し、このようなAIの利用は大きな人権リスクをともない、差別を助長する恐れがあると警告している。
欧州委員会は、AIの「高リスク」アプリケーションを規制するフレームワークのプロポーザルを発表するとされているが、中央ヨーロッパ夏時間4月13日、Politico（ポリティコ）がその草案をリークした。先にレポートしたように、リークされた草案は、この問題に対する国民の関心の強さを認めているにもかかわらず、公共の場での顔認証やその他の生体認証を行う遠隔識別テクノロジーの使用を禁止する事項は含んでいない。
議員グループは欧州委員会に宛てた書簡で「一般にアクセスできる公共空間における生体認証の大量監視テクノロジーは、多数の無実の市民を不当にレポートし、過小評価グループ（ある地域において、全世界における人口比よりも小さな割合しかもたないグループ）を組織的に差別し、自由で多様性のある社会を委縮させると広く批判されています。だからこそ、禁止が必要なのです」と述べ、その内容も公開されている。
議員グループは、予測的ポリシングアプリケーションや、生体特徴を利用した無差別な監視・追跡など、個人を特定できる特徴を自動的に推定することによる差別のリスクについても警告している。
「これはプライバシーやデータ保護の権利を侵害し、言論の自由を抑圧し、（権力側の）腐敗を暴くことを困難にするなどの弊害をもたらし、すべての人の自律性、尊厳、自己表現を脅かします。特に、LGBTQI+コミュニティ、有色人種、その他の差別されているグループに深刻な損害を与える可能性があります」と議員グループと記し、EU市民の権利と、差別のリスク（そして、AIで強化された差別的なツールによるリスク）からコミュニティの権利を守るために、AIプロポーザルを修正して、こういった行為を違法化するよう欧州委員会に求めている。
「AIプロポーザルは性別、性的区別、人種・民族、障害、その他の個人を識別できる保護すべき特徴の自動識別を禁止するチャンスです」と議員たちは続ける。
リークされた欧州委員会プロポーザルの草案では、無差別大量監視という課題に取り組んでおり、こういった行為の禁止や、汎用の社会的信用スコアリングシステムを非合法化することも提案されている。
しかし、議員グループはさらに踏み込んだ議論を求め、リークされた草案の文言の弱点を警告し、プロポーザルの禁止案を「システムに暴露される人の多寡にかかわらず、ターゲットのない無差別な大量監視をすべて禁止する」ように変更することを提案している。
また、公共機関（または公共機関のために活動する商業団体）に対しては大量監視を禁止しないという提案にも警鐘を鳴らし、現行のEU法や、EU最高裁の解釈を逸脱する危険性を指摘している。
書簡には「私たちは、第4条第2項の案に強く抗議します。この案では、公的機関はもちろんのこと、公的機関に代わって活動する民間の行為者であっても、『公共の安全を守るため』に（大量監視の禁止の）対象とならないとされます」と書かれている。「公共の安全とは、まさに大量の監視を正当化するためのものであり、実務的に有用性があり、裁判所が個人データの無差別大量処理に関する法律（例、データ保持指令）を一貫して無効にしてきた場でもあります。禁止の対象とならない可能性は排除する必要があります」。
「第2項は、これまで司法裁判所が大量監視を禁止していると判断してきた他の二次的な法律を逸脱すると解釈される可能性もあります」と続ける。「提案されているAI規制は、データ保護の法体系に起因する規制と一体となって適用されるものであり、それに代わるものではないことを明確にする必要があります。リークされた草案には、そのような明確さがありません」。
議員グループは欧州委員会のコメントを求めているが、今後予定されているAI規制案の正式発表を前に、欧州委員会がコメントを出すことはなさそうだ。
今後、AIプロポーザルに大幅な修正が加えられるかどうかは不明だ。しかし、この議会グループは、基本的人権が共同立法の議論の重要な要素であること、そして、非倫理的なテクノロジーに正面から取り組まないルールであれば「信頼性の高い」AIを確実するためのフレームワークという議会の主張は信用できないと、いち早く警告している。
カテゴリー：パブリック / ダイバーシティ
タグ：EU、生体認証、顔認証、人工知能・AI
画像クレジット：Getty Images
［原文へ］
（文：Natasha Lomas、翻訳：Dragonfly）
