タグ: セキュリティ

顔認識はそうでなくても十分賛否両論を呼ぶ話題だが、最近は多くの（ただし十分ではない）警察官がボディーカメラをつけて日々の警察活動を行っている。多くの警察用ボディーカメラを製造しているAxonは、独立調査機関に助言を求め、同機関の研究結果に基づき現時点では顔認識を行わないと決断を下した。

かつてTaserと名乗っていた同社は、「AIおよび監視技術倫理委員会」を昨年立ち上げた。さまざまな分野の専門家11名からなる同委員会が最初に発行した報告書は、主として顔認識に焦点を絞った内容だった。

助言内容は単純明快で「使うべきではない。少なくとも今、あるいは永遠に」。具体的な指摘は以下のとおり。

• 顔認識技術は現時点で倫理的に使用できるほどよくできていない。
• 「精度」に注目してはいけない。注目すべきは個々の偽陰性と偽陽性だ。そのほうが重要な意味をもつ。
• 使用する顔認識モデルはカスタマイズできすぎてはいけない。悪用される恐れがある。
• 顔認識アプリケーションは、その影響を受ける人々の明示的同意を得たときのみ起動すること。
• 確実に利益がもたらされるという明確な証拠がない限り、顔認識システムの利用を検討すべきではない。
• 顔認識技術は政治的空白や倫理的空白のもとで使用も存在もしてはならない。よって顔認識技術を開発し提供する際は現実の世界を考慮しなくてはならない。

報告書の全文はこちらで読める。前置きや内部の話が多いが、実内容は24ページから始まる。上にあげた項目についてそれぞれ数ページにわたって説明と事例が書かれている。

Axonはほぼ全面的に同意している。「報告書には顔認識技術に関する思慮深く実用的な助言が書かれており、当社も同意している。委員会の推奨に沿って、当面Axonは当社のボディーカメラで顔認識技術を商品化しない」

研究開発をやめたわけではない。思うに彼らの考えは、科学的な下支えがない限り、この技術が望まれる利益を生むことはない、ということなのだろう。報告書は、AI研究分野における最新のベストプラクティスを守り、システムに偏見や体系的な欠陥がないことを確実にするよう助言しているだけで、顔認識に反対しているわけではない。

これはあまり話題にならないことだが、顔認識（Face Recognition）と顔一致（Face Matching）には違いがある。前者は日常的な汎用的言い回しで、人々が侵略的で偏見があると考えるものであるのに対して、専門用語としての後者は意味が異なる。

顔認識あるいは顔検出は、写真に写っている顔の特徴を見つけるだけだ。スマートフォンがピントを合わせたり、エフェクトをかけるためなどに使われる。顔一致は、検出された顔の特徴をデータベースと比較して一致するものを見つける。スマートフォンをロック解除するために使うこともできるし、FBIが空港を出入りする全員を指名手配リストと比較することもできる。

Axonは顔認識と追跡技術を使って、警察のボディーカメラが撮影した膨大な時間のビデオを解析する。ビデオを証拠として使用するときは、直接関与する人の顔以外にはぼかしを入れなくてはならないが、どこに顔があるかわからないとそれができない（アップデート：当初この段落には、Axonが「顔一致の低機能版」を使っていると書かれていた。これは顔をデータベースではなくビデオ内に出現した顔とだけ一致を調べるともので、同社は「再識別」（Re-Identification）と呼んでいる。この技術は現在研究段階にあり商用には提供されていない）。

この利用形態に問題はないと思われるし、他にも正当な使い方がたくさんあることは間違いない。しかし、今後顔認識技術が主流になることを踏まえ、こうした倫理委員会を作って企業の善良な利用を推進するのはいい考えだろう。

[原文へ]

（翻訳：Nob Takahashi / facebook ）

暗号化通信アプリの存在感が高まることで、多くのコミュニティがより安全で強力なものになる。しかし、物理的なデバイスの差し押さえや政府による強制の可能性も高まっている。このことこそ、そうしたアプリのすべてが、自分と相手を守るために自己破壊モードを備えているべき理由だ。

SignalやWhatsApp（オプションをオンにしていた場合）のようなアプリが提供する、エンドツーエンドの暗号化は、政府やその他の悪意ある第三者から、通信中にメッセージが読み取られることを防止するのに役立つ。しかし、ほとんどすべてのサイバーセキュリティの問題と同様に、デバイスまたはユーザー、あるいはその両方への物理的なアクセスは、状況を大きく変えてしまう。

例えば、自分の電話のロックを解除して、自分のフォロワーやその他のメッセージデータを警察に開示しなければならなかったこの香港市民のケースを取り上げてみよう。例えば、ある人物が禁止命令に反してだれかを密かにサイバーストーキングしているかどうかを知るために、裁判所の命令でそうした開示を行わせることはあるだろう。だが政治的反対派を一網打尽にするために行うことはまったく別の話だ。

@telegram @durov an HK citizen who runs a Telegram channel detained by the police was forced to unlock his phone and reveal his channel followers. Could you please add an option such that channel subscribers cannot be seen under extreme circumstances? Much appreciate. https://t.co/tj4UQztuZ2

— Lo Sinofobo (@tnzqo7f9) June 12, 2019

@telegramおよび @durovどの。あるTelegramチャンネルを運営している、警察に拘禁中のある香港市民が、彼の電話のロックを解除して、チャンネルのフォロワーを明らかにすることを強制されました。極端な状況下でチャンネル登録者を見ることができないようにするオプションを追加して貰えませんか？よろしくお願い致します。

この抗議者はTelegramの中でフォロワー数の多いチャンネルを運営していた。それは抗議活動を組織するためのSlackの部屋、あるいはFacebookのグループ、あるいはその他のものと同じくらい簡単に運営することができるものだ。だがもしそのコンテンツや連絡先が警察に開示されるような事があったとしたら、抑圧的な政府機関からの脅威に晒されているグループにとっては、災難以外の何物でもないだろう。

自分が警察に話す内容を、正確に選ぶことができるべきであるように、自分の電話が警察に話すべき内容もまた、正確に選べるようになっているべきだ。セキュアメッセージングアプリはこの機能の先駆けとなるべきなのだ。

すでにいくつかの専用の「パニックボタン」タイプのアプリが存在しており、またApple（アップル）は思慮深く「緊急モード」（電源ボタンを素早く5回押すと緊急モードに移行する）を開発し、生体認証ではロックが解除されないようにした上で、一定時間内にアンロックされないと内容が消えてしまうようにした。これは、携帯電話を盗もうとする「Apple pickers」に対抗したり、国境や警察で顔認証で電話のロックを解除されて、所有権を明かすことになりたくない場合などに有効だ。

【関連記事】
iPhoneやiPadを安全に使用するための5つの設定

これらは便利だし、もっともっと似たようなものが必要だ。しかしセキュアメッセージングアプリは特別な存在だ。それは一体何をすべきだろうか？

時間があってインターネットアクセスも行えるという余裕のあるシナリオは、実のところあまり重要なものではない。この場合自分のアカウントとデータは自由意志でいつでも削除することができる。なんとかしなければならないのは、プレッシャーの下で自分のアカウントを削除することだ。

次に考えられるシナリオは、おそらくアカウントを削除するかさもなくば保護するまでに、数秒もしくはせいぜい1分程しかないという場合だ。Signalはこうした状況への対応に優れている。削除オプションはオプション画面の正面中央にあり、何の入力を行う必要もない。WhatsAppとTelegramでは電話番号を入力する必要があるが、これは理想的なやりかたではない。正しく入力できなければデータが残ったままになってしまう。

左のSignalはそのまま削除可能、右のWhatsAppとTelegramの場合は電話番号を入力する必要がある

当然のことながら、これらのアプリが、ユーザーに誤って不可逆的に自分のアカウントを削除しないようにさせることも重要だ。しかしおそらくその折衷的な方法もあるだろう。そこでは事前に設定した時間の間一時的なロックを行い、その間に手動でロック解除を行わなければ削除を行うというものだ。Telegramには自己破壊的なアカウントがあるが、削除のために設定できる最短期間は1ヵ月だ。

本当に改善を必要としているのは、自分の電話がもはや自分の制御下にないときの緊急削除方法だ。これに該当するのは、警察によるデバイスの差し押さえ、またはおそらく逮捕された後に電話のロックを解除するように強制されるケースなどだ。いずれにせよ、ユーザーが、通常の方法以外で自分のアカウントを削除するためのオプションが必要である。

うまくいくかもしれないオプションをいくつか挙げておこう。

• 信頼できるリモート削除
  選択済みの連絡先が、ワンタイムコードまたは他の方法を使って、お互いのアカウントやチャットを遠隔消去できるようにする。何の質問も行わず、何の通知も行わない。これを使うことで、例えばあなたが逮捕されたことを知っている友人が、あなたのデバイスから機密データをリモートで削除することができる。
• 自己破壊タイマー
  Telegramの機能と似ているが、より優れたやりかただ。抗議集会に参加したり、追加の審査や尋問のために「ランダムに」選択された場合に備えて、アプリに対してある一定時間後（おそらく最短1分刻みで）あるいは1日の指定した時刻に、自分自身を削除するように指示できるようにする。必要に応じていつでも取り消すことや、合図することで5分間タイマーを停止させることができる。
• 特殊PIN
  通常のロック解除PINに加えて、ユーザーは入力時にさまざまなユーザー選択可能な効果を持たせることのできる特殊PIN（原文では「Poison PIN」で直訳するなら「毒PIN」）を設定できる。例えば、特定のアプリを削除したり、連絡先を消去したり、事前に作成したメッセージを送信したり、デバイスのロックを解除したり、一時的に完全ロックしたりできる。
• カスタマイズ可能なパニックボタン
  アップルの緊急モードは素晴らしいが、もし上記の「特殊PIN」のような条件をつけることができれば素晴らしい。しかし、できることがとにかくそのボタンを叩くことだけという場合もある。

明らかに、これらは災難と虐待への新たな道も切り拓く。それこそが、その機能が注意深く説明され、おそらく初期状態としては「上級設定」のようなものの中に隠されておく必要がある理由だ。しかし全体としては、それらが利用可能になることで、私たちはより安全になると思う。

最終的には、これらの役割は専用のアプリやそれらが動作するオペレーティングシステムの開発者によって提供されることになるかもしれないが、最も先進的なセキュリティを提供するアプリケーションたちがまずこの分野で手本を示すことは理にかなった話だろう。

画像クレジット：Eduard Lysenko / Getty Images

[原文へ]

（翻訳：sako）

FCC（米連邦通信委員会）は先週の一般公開された会合で、ロボコール（迷惑電話）対策の案を可決した。しかしこの対策は、ひどくいらつかせるロボコールを減少させるかもしれないし、減少させないかもしれない。そして無料ではないかもしれない。従って、これはシンプルとは程遠く消費者をかなり苛立たせる問題の解決に向けたスタートにすぎない。

過去２年間、ロボコール問題は大きくなるばかりで、この問題に対処するために今とれる方策はいくつかあるが、それらは根本的な解決策にはならないし、ユーザーが利用するプランや通信会社で使えるとは限らない。

スキャムコールが国中で展開されているという事態に迅速に対応していないという批判を受け、FCCの対応は政府当局としてはかなり早いものとなった。ロボコール対策としては主に2つのパートがあり、そのうちの1つが委員会のミーティングで承認された。

1つめの策は、委員会のAjit Pai委員長が先月に正式に提案していて、通信キャリアをつつく程度のものだが実行されれば役に立つはずだ。

通信キャリアはロボコールがユーザーの端末に届く前にロボコールを感知してブロックするツールを適用することができる。可能性は低いが、そうしたサービスを利用するのを好まないユーザーもいるかもしれない。そして通信キャリアはロボコールをデフォルトでブロックすることが既存のFCCの規則で禁じられているかもしれないと懸念していたと主張していた。

FCCは以前、これには規則は当てはまらず、キャリアは皆がこうしたブロッキングサービスを利用できるようにすべきと話していたが、通信キャリアは難色を示していた。承認された規則規定は基本的にキャリアにそうした行為を明確に許可し、実際には消費者にブロッキングのスキームの利用を選択するよう促している。

それはよいことだ。しかしはっきりさせておくと、水曜日の動きによって通信キャリアが絶対に何かをしなければならないわけではなく、通信キャリアがそうしたサービスで課金することを防ぐわけでもない。実際、Sprint、AT&T、Verizonはそうした動きをとっている。（TechCrunchはVerizon Mediaが所有しているが、これはこの記事には影響していない）

コミッショナーのStarks氏は案の承認に伴う声明で、キャリアが違反することがないか、FCCがこのポリシーの実行を注意深く監視する、と述べている。

私の希望としては、こうしたツールがいかに作用するか、アイテム（すなわち提案への彼の付加）について貴重なフィードバックを得られればいい。課金された場合のその額、コールブロッキングツールのさまざまなカテゴリーの効果、コールブロッキングツールを利用できる状態の人における利用者数の評価など、コールブロッキングの解決策が有効かどうかを今後分析することになる。

2つめの策はまだ温められている段階で、既存のものは多かれ少なれ通信キャリアが対策を促進しないことがないようFCCの脅しのようなものだ。業界はSTIR/SHAKEN（Secure Telephony Identity Revisited/KENsを使ったSecure Handling of Asserted information）と呼ばれるユニバーサルのcaller IDシステムのようなものをまとめているが、展開はかなりゆっくりだ。昨年後半にPai委員長は、もし通信キャリアが2019年末までに行動に移さなければ、FCCは強制措置を取らざるを得なくなる、と語っていた。

なぜ委員会が単に最初から強制措置を取らなかったのか、と誰しも思うところだろうし、それは一部のコミッショナーや他の人も抱いた疑問だ。いぜれにせよ、脅しがあり、それが通信キャリアに行動を促した。通信キャリアはテストを展開してきた。しかし、STIR/SHAKENに基づくロボコール対策システムを展開しているところはまだない。

Pai委員長はこうしたシステムに関連して、「我々（FCC）は消費者にコストが転化されるとは思っていない」と語り、ユーザーが利用している通信キャリアが、料金を伴うロボコールブロックシステムにユーザーを加入させることはないようだ。しかし通信会社の悪質さと貪欲さを少なく見積もってはいけない。新規契約者にこのサービスがラインアイテムとして追加されていても驚きではない。請求書をよく見た方がいい。

イメージクレジット: Farknot_Architect / Getty Images

[原文へ]

（翻訳：Mizoguchi）