セキュリティーの欠如で顔認識スタートアップClearviewのソースコードがすべて漏洩

2020年1月、ある新聞社の調査によってその衝撃的な存在が明らかになった、顔認識スタートアップのClearview AI(クリアビュー・エーアイ)は、たちまちハイテク系スタートアップ界の最も捉えどころがない隠蔽体質の嫌われ者になってしまった。

物議を醸している同社は、法執行機関が人の顔写真を撮りアップロードすると、30億人分の画像を保管しているとされる同社のデータベースで照合ができるサービスを提供しているが、その画像とは、一般のソーシャルメディアから集めたプロフィール写真だ。

だがしばらくの間、サーバーの設定ミスにより、同社の内部ファイル、アプリ、ソースコードが、インターネット上の誰もが見られる形で漏洩してしまった。

ドバイのサイバーセキュリティー企業SpiderSilk(スパイダーシルク)の最高セキュリティー責任者を務めるMossab Hussein(モサブ・フセイン)氏は、Clearviewのソースコードが保管されていたレポジトリーを突き止めた。そのレポジトリーはパスワードで守られてはいたが、設定ミスにより誰でも新規ユーザー登録ができ、ソースコードが保管されているシステムにログインできる状態になっていた。

レポジトリーには、コンパイルすればアプリとして実行できるClearviewのソースコードが保存されていた。さらにそこには、Clearviewのクラウド・ストレージのバケットにアクセスできる秘密の鍵と認証情報もあった。そのバケットの中には、Windows版とMac版とAndroid版のアプリの完成品が収められていて、さらにはApple(アップル)が規約違反としてブロックしたiOS版アプリもあった。また、通常はテスト用にのみ使われる開発者向けの初期のリリース前バージョンのアプリも保管されていたと、フセイン氏は言う。

しかもフセイン氏によれば、そのレポジトリーでは、ClearviewのSlackのトークンも晒されていた。これを使えば、同社の内部メッセージや会話がパスワードなしで誰にでも読めてしまう。

Clearviewには、ニューヨーク・タイムズによってその隠密活動を暴かれて以来、ずっとプライバシーの懸念が付きまっている。だがその技術はまだほとんどテストされておらず、顔認証の精度も実証されていない。Clearviewでは、この技術は法執行機関にのみ使用を許すものだと主張しているが、同社はMacy’s、Walmart、NBAといった民間企業にも声を掛けていたと報道されている。だが今回のセキュリティー上の失態により、セキュリティーとプライバシーへの取り組みに関して、同社にはさらに厳しい目が向けられることになりそうだ。

コメントを求めると、Clearviewの創業者であるHoan Ton-That(ホアン・トンタット)氏は、彼の会社は「常に大量のサイバー侵入攻撃に晒されているが、セキュリティー強化には多額の投資を行ってきた」と主張した。

「私たちは、HackerOne(ハッカーワン)の協力で賞金付きのバグ探しプログラムを立ち上げました。Cleaview AIの欠陥を発見したセキュリティー研究者には報酬が支払われます」とトンタット氏。「SpiderSilkは、このプログラムには参加していませんが、Clearview AIの欠陥を見つけて私たちに連絡してきました。今回の漏洩事件では、個人が特定されるような情報、検索履歴、整体認証情報は一切漏れていません」。

iOS用Clearview AIはログインする必要がないとフセイン氏は言う。彼は、このアプリの仕組みがわかるスクリーンショットをいくつか取り込んだ。ここではフセイン氏は、マーク・ザッカーバーグ氏の写真で試している。

トンタット氏は、SpiderSilkの行動を恐喝だと非難しているが、ClearviewとSpiderSilkとの間で交わされた電子メールから見えてくる様子は違っている。

これまでMoviePassRemineBlindといった数々のスタートアップのセキュリティー上の問題を報告してきたフセイン氏は、Clearviewの欠陥を報告はしたが、賞金は遠慮したと話している。受け取りにサインすれば、この一件を世間に公表できなくなるからだ。

賞金付きでバグ探しプログラムを実施する企業は、よくこうした契約を求める。セキュリティー上の欠陥を修復した後にその件を公表されないよう、秘密保持契約を結ばされることもある。だが、研究者たちには賞金を受け取る義務も、秘密保持契約を守る義務もないのだと、TechCrunchは専門家たちから聞いている。

トンタット氏は、Clearviewは「ホストの完全な犯罪科学検査を実施し、不正なアクセスは他に一件もなかったことを確認した」と話す。秘密の鍵は既に変更され、もう使えないとのことだ。

フセイン氏の発見により、普段はほとんど見ることができない秘密主義的な企業の業務が垣間見えた。同氏が公開したスクリーンショットには、トンタット氏が「プロトタイプ」だと説明した同社のInsight Camera(インサイト・カメラ)を参照するコードとアプリがわかるものがある。このカメラはもう開発が中止されている。

Clearview AIのmacOS版アプリのスクリーンショット。APIを使ってClearviewのデータベースに接続される。またこのアプリは、Clearviewの以前のカメラ・ハードウェアのプロトタイプInsight Cameraを参照するようにもなっていた。

BuzzFeed Newsによると、そのカメラをテストした企業に、ニューヨーク市の不動産会社Rudin Management(ルーディン・マネージメント)があると伝えている。同社が所有する2つのマンションに試験的に導入したという。

フセイン氏は、Clearviewのクラウド・ストレージのバケットの中に、およそ7万本もの動画を発見した。マンションのロビーに、人の顔の高さに設置されたカメラの画像だ。その動画には、建物を出入りする住人の顔が映されている。

トンタット氏は「防犯カメラ製品の試作段階で、私たちは、厳密にデバッギングを目的とした生の映像を収集していました。建物の管理会社から許可を得ています」と説明する。

TechCrunchが調べたところによると、Rudinが所有する建物はマンハッタンのイーストサイドにあった。物件リストとロビーの映像からも、それが確認できた。この不動産会社の担当者にメールを送ったが、返事は来ない。

マンションのロビーに設置し、通り過ぎる住人を撮影したカメラの映像のひとつ(顔のぼかしはTechCrunchが加工)。

Clearviewは、1月に世間に知られるようになってから、厳しい監視の目に晒されている。さらにハッカーたちの標的にもなっている。

2月にClearviewは、データ漏洩の際に顧客リストが盗まれたことを顧客に報告した。だが、同社のサーバーには「アクセスの形跡はない」と主張している。Clearviewはまた、Android版アプリを保管したものを含むクラウドストレージの複数のバケットをプロテクトせずに放置していた。

バーモント州の検事当局は、消費者保護法違反の疑いで、すでに同社の捜査を開始し、ニュージャージーサンディエゴを含む各警察署にはClearviewを使わないよう通達を出した。Facebook、Twitter、YouTubeをはじめとするハイテク企業の一部も、Clearview AIに対して停止通告書を送っている。

CBS Newsのインタビューで、トンタット氏は自社の事業をこう弁護していた。「もしそれが公共のもので、使える状態になっていて、Googleの検索エンジンで見られるものなら、それは私たちが所有しているとも言えます」。

[原文へ]
(翻訳:金井哲夫)

中国ハイテク企業はこうしてコロナと戦っている

新型コロナウイルス感染症の影響についてはTechCrunchでもたびたび取り上げてきたが、今回、中国のハイテク企業がこの大流行にどのように対処してているかを取材した。また、これが中国以外の世界にとっての意味についても紹介する。

新型コロナウイルス感染症の大流行は中国の社会、経済全般に大打撃をもたらしているが、わずかな救いはテクノロジーが人々の相互の接触を最小限とする手助けとなっている点だ。巨大な人口が自宅で過ごすためにテクノロジー企業がどのような役割を果たしているかにも触れたい。

2002年に中国で流行したSARS(重症急性呼吸器症候群)は800人近い死者を出したが、これが中国におけるeコマースを立ち上げるきっかけとなった。人々は感染を避けようとして外出を控えることととなり、オンライン通販に頼るようになった。ジャック・マ氏の伝記によれば、Alibabaのオンライン・マーケットプレイス、Taobaoが急成長したのも、ちょうどこのSARS流行期だった。

それから20年近く経ってさらに深刻な新型コロナウイルス感染症が中国の多数の都市をマヒさせている。この中でテクノロジー企業は自らの活動を維持すると同時に生活のライフラインとなり、また新型コロナウイルスを封じ込めるための国や民間の努力を助けようとしている。

データ分析企業のQuestMobileのレポートによれば、中国の市民がモバイルデバイスでインターネットを利用する時間は時間は2020年1月には平均1日6.1時間だったが、旧正月(2020年1月25日前後)には6.8時間にアップし、さらに新型コロナウイルス流行で7.3時間という驚くべき数字に跳ね上がった。これはウイルスの影響で旧正月休み明けにも閉鎖を続けている企業が多いことによる。同時に企業がリモートワークを取り入れつつあることも要因だろう。

以下に紹介するのはテクノロジー企業の努力の例だ。

リモートワークアプリが大ブーム

中国のエンタープライズソフトウェアビジネスは西側に比べると立ち上がりが遅かった。しかし消費者向けオンラインビジネスのプレイヤーが激増するにつれ、テクノロジー系大企業から投資家 までいっせいにエンタープライズ部門に目を向けるようになった。 ここにきて新型コロナウイルスの流行により何百万人ものオフィスワーカーが家に閉じ込められることになったため、リモートワーク向けアプリがブームとなっている。

全国的に学校、大学が閉鎖されたことで、Sensor Towerのデータによれば、オンライン教育ビジネスも同様の活況を呈している。

リモートワーク・アプリのメジャー・プレイヤーはAlibabaのDingTalk、Tencentの WeChat(微信)、 ByteDanceのLark. Appで、 Sensor Towerのレポートによれば、2020年の1月22日から2月20日の期間でDingTalkの14倍をはじめとして、以下のとおり著しい伸びを記録している(対前年同期比)。

DingTalk: 1446%

Lark: 6085%

WeChat Work: 572%

AlibabaはWeChat(微信)に対抗しようとして失敗した後、2014年にDingTalk(釘釘)をスタートさせたが、2020年2月に入って突然急成長し、中国におけるiOSアプリの首位に躍り出た。2019年8月時点の発表ではユーザーは1000万人以上ということだったが、現在は登録ユーザーは2億人以上だという。

新型コロナウイルス感染症の流行でiOS無料アプリのダウンロード数トップとなったDingtalk (Sensor Tower)

WeChat(微信)のエンタープライズ版、WeChat Work(企業微信)は2016年に生まれ、DingTalkの後を追い、当時iOSのダウンロードで2位となった。2019年12月にはWeChat Workには250万社、6000万人以上のアクティブユーザーがいると発表された

BytedanceがLarkをリリースしたのは2019年と新しい。上記2つの巨大サービスに比べれば小型で、 2月上旬までは300位台だった。しかし新型コロナウイルス流行後、Larkは爆発的に急成長した。LarkはTikTokの中国国内版であるDouyin(抖音)に広告を出し始めた。Douyin(抖音)はショートビデオの人気が高まると同時に企業マーケティングの寵児となりLarkに大きな注目が集まるようになった。一方、WeChatは月間ユーザー10億という巨大なサイズに達しているものの収益化には踏み出していない。

問題は新型コロナウイルスによる突然のブームが、維持可能な安定した市場に結びつくかどうかだ。DingTalkとWeChat Workは、あまりに急激なユーザー拡大のためにたびたびシステムがクラッシュしている。両サービスともこれほどの規模のユーザー殺到は予期していなかった。 また多くの企業は新型コロナウイルスの流行が収束すればリモートワークから従来のオフィスに出勤する勤務体制に戻ると予測される。

実際、「在宅勤務時間中はウェブカメラを常時オンにしておくこと」といったプライバシーの侵害につながるような要求をする企業もあるため、在宅勤務は社員からは評判が悪いことが多い。 またDingTalkは最近スタートさせたオンライン学習クラスに思わぬ反撃を受けている。旧正月休みが延長されたと思ったらオンライン学習クラスで勉強させられることになった生徒たちが一斉にアプリに一つ星の低評価をつけている。

マスク着用と国民監視システム

ウイルスの拡散を防ぐために多数の自治体が公衆の前に出るときはマスクを着用することを人々に義務付けたが、これは中国で一般化している監視カメラによる顔認証に重大な障害となっている。しかし、顔認証に代わる虹彩認証などの新しいテクノロジーが導入されつつある。

私が取材した旅行者によれば、駅で列車に乗る際、セキュリティゲートでいちいちマスクを外す必要はなかったという。マスクをしていても個人が特定できるならプライバシーを重視する立場からいえば大きな問題だ。しかし当局がそのような進化した生体認証行うようになったのか、ウイルスの流行で一時的にセキュリティを緩めているのかは不明だ。【略】

デジタル記録の活用

中国政府はClose Contact Detector(濃厚接触検知器というウェブベースのアプリを開発し公開した。ユーザーは氏名、身分証番号、電話番号を入力することでデジタル化された移動情報にアクセスすることができる。たとえば航空機で感染者の3列以内に座っていたことが確認されれば「リスクあり」と判断される。これは感染拡大防止に役立つだろうが、一方では「政府がここまで詳しい個人の旅行データを持っているのなら、なぜもっと早く流行の封じ込めに役立てなかったのか?」という深刻な疑問も生んでいる。なぜ流行が拡大し始めて数週間も経ってからこのサービスが公開されたのだろうか?

もちろん中国の膨大な人口と無数の政府機関の存在を考えると実名で登録されたビッグデータを横断的に処理することが極めて困難な問題を引き起こすことは予測できる。新型コロナウイルスの流行は中国政府によるビッグデータの処理の努力を加速しているようだ。旅行許可のデジタル発行の多くは膨大なユーザー数を考慮してWeChatを利用している。【略】

写真:新華社

デマと戦う

感染症の流行はデマの温床となる。Dxy.cn (丁香园)は医療関係者を対象としたオンラインコミュニティで新型コロナウイルス関連の情報の迅速なファクトチェックの提供を目的としている。また中国全土のマップで流行の現状をリアルタイムで確認できるようにしている。

Yikuangは独立のデベロッパーとアプリレビューサイトのSspai.comが開発したWeChatベースのサービスで、新型コロナウイルス感染症の流行地域を示す。データは自治体の公式発表に基づいており、近隣で感染があったかどうかがわかる。

上海の高等学校の生徒によって始められたブログは世界中の諸機関による新型コロナウイルス情報をまとめたもので、中国の多数の若者が参加してサービスを拡充している。

食事とエンターテインメント

全国的な社会のロックダウンは当然ながらオンラインエンターテインメントにブームをもたらす。QuestMobileのデータによれば、ショートビデオ市場は1日当たりのアクティブユーザーが5億6900万人に達した。流行以前の4億9200万人から大きく増加している。多くのミュージシャンがコンサートが不可能にあったため、ビデオストリーミングによるバーチャルコンサートに切り替えている。同様に映画も上映館の閉鎖によりオンライン封切りを行っている。

中国の都市の多くがレストランでの外食を禁じたため、料理宅配サービスが肩代わりを余儀なくされている。飲食店の口コミサイト、Meituan Dianpin(美団点評)が運営するで宅配サービスではコンタクトレスと呼ばれる人的接触を避ける宅配システムを作った。これは料理を入れたロッカーで、注文した顧客はロッカーを開いて料理を取り出すことができる(下のツイートの動画参照)

画像:ROMEO GACAD/AFP via Getty Images

[原文へ]

滑川海彦@Facebook

大学における顔認識技術の導入をUCLAが中止

大学構内の防犯カメラの映像を顔認識のソフトウェアで処理することを検討していたUCLA(カリフォルニア大学ロサンゼルス校)が計画を撤回した。

デジタルプライバシーの活動団体であるFight for the FutureのEvan Greer(エヴァン・グリーア)氏に宛てた書簡で、UCLA学長のMichael Beck氏(マイケル・ベック)氏は「すべての学生が反対しているので計画を放棄する」と発表した。

「得られる利益も限られていると判断したし、学内コミュニティの懸念が圧倒的に大きい」とベック氏は書いている。

今回の決定はプライバシー擁護者たちの「大きな勝利」と見なされ、学生たちがFight for the Futureとパートナーして全国抗議集会を3月2日に予定していた矢先だった。UCLAが顔認識による監視技術の導入を検討ていたことは、MIT、ブラウン大学、ニューヨーク大学などの多くのエリート大学から批判されていた。

UCLAの学生新聞「Daily Bruin」の先月の報道によると、大学は防犯カメラのポリシーの改訂の一環として顔認識ソフトウェアを加えることを提案した。同紙によると、その技術はキャンパスの出入り制限のある区域で接近禁止とされている個人を特定し、大学の敷地から排除することが目的とされた。1月のタウンホールミーティングでその提案は200名の出席者から批判を浴び、監視技術に反対する運動がそこから育っていった。

UCLAの学生で学内安全同盟の副議長を務めるMatthew William Richard(マシュー・ウィリアム・リチャード)氏は、大学の決定について「他の大学もこんなポリシーを許さないでほしい。連帯によって、大学の非軍事化と民主化を実現できるのだ」とコメントしている。

[原文へ]

(翻訳:iwatani、a.k.a. hiwa

人権侵害の懸念をよそにロンドン警視庁がNEC製の顔認証を導入 

そのリスクに照準を合わせたAI規制計画の一環として、EUの議員たちは個人の権利を守るために顔認証を一時的に使用禁止することを検討している。そうした中、ロンドン警視庁は1月24日、プライバシーの敵となるテクノロジーの配備を開始した。英国の首都でライブの顔認証の運用を始めた。

今回の導入は、ロンドン警視庁とサウスウェールズ警察による複数年の試験を経たものとなる。

議論を呼んでいるテクノロジーの使用は「重罪犯がいそうだと情報機関が考える特定の場所」をターゲットとしている、とロンドン警視庁は話す。

「捜索されている個人、重大な事件を起こして指名手配されている人物の画像からなる専用の『ウォッチリスト』が使われる」と付け加えた。

また、カメラには「明確に標識が付けられ」、運用に専従する警官がこうした取り組みに関するリーフレットを配布する、とも述べた。

「配備にあたって、カメラは通行人をスキャンするためにごく限られた場所にフォーカスする」と書いている。「独立したシステムであるこのテクノロジーは、CCTV(監視カメラ)やボディカメラ、ANPR(自動車ナンバー自動読取装置)などのいかなる画像システムともリンクしていない」

この生体認証システムは、日本のIT・エレクトロニクス大手であるNECが納入した。

プレスリリースで、警視正のNick Ephgrave(ニック・エファグレイブ)氏は、議論が残るテックの使用に際して、バランスが取れたアプローチをとっている、と主張した。

「我々はみな、安全な街に住んで働きたい。社会は当然のことながら犯罪を防止するために、広く利用可能なテクノロジーの使用を期待している。同時に人々のプライバシーと人権の保護を確かなものにするため、我々は正しいセーフガードと透明性を確保しなければならない。我々の注意深く熟慮されたライブ顔認証の配備はバランスがとれていると確信している」と述べた。

ロンドンでは近年、暴力犯罪が増加している。2019年の殺人事件発生率は過去10年で最も高かった。

暴力犯罪の増加は警察サービスの削減と関連しているが、新しい保守党政権は先にトーリー党政権が定めた警察サービス削減を取り消すことを公約していた。

ロンドン警視庁は、重大な暴力や銃剣犯罪、児童の性的搾取などを含む深刻な犯罪との戦いにAIを活用したテックが役立ち、「弱者の保護を手伝う」ことを望んでいる、と話す。

しかし顔認証システムで、例えばAIアルゴリズムを洗練させるために利用されるデータセット内にある偏見のような要因によって人種差別が起こりやすくなることを考えると、ロンドン警視庁の主張はかなりの皮肉だ。

実際、警察による顔認証の使用が、すでに不平等や差別という不当なリスクに直面している弱者グループにさらなる害を及ぼすかもしれないという懸念がある。

にもかかわらず、ロンドン警視庁のPRではAIテックに潜む偏見のリスクについて言及していない。

その代わりに、警官をアシストする「追加のツール」としてテクノロジーをしのばせるために、苦痛を生み出している。

「これはテクノロジーが従来の警務に取って代わるというものではない。単純に警官に対して『そこにいる人物は捜索している人かもしれない』と『すばやく』暗示するシステムだ。行動をとるかどうかは常に警官が判断する」と付け加えた。

新たなテックツールの使用は小規模で始まるかもしれないが、ソフトウェア開発の歴史は、それがいかに拡大していきやすいかを示している。

ターゲットを絞った小規模な立ち上げは、少しずつ導入することによって大きな議論を呼び起こしている人権に敵対するテクノロジー(別名、忍びよる監視)を広く社会に受け入れてもらうための準備となっている。

他方で、先週リークされたAI規制のためのEU提案ドラフトには、公共スペースにおける顔認証の一時的な禁止が盛り込まれていて、使用禁止は「個人の人権を守る」だろうと書かれている。しかし、そうした包括的な方策が、たとえ一時的にせよ、賛同を得られるかはまだ不透明だ。

英国の人権グループは、顔認証に対する懸念を無視するロンドン警視庁の決定に警鐘を鳴らす。

Libertyは、最初の試験中に委託したレポートの結論を無視するものだと非難した。レポートではロンドン警視庁が人権への影響を考慮しなかったと結論づけている。

また、顔認証の使用は鍵となる法的必要条件に合致していないとも指摘している。

「人権法では、個人の権利を妨げるものは、法律に従い、正当な目的があり、『民主社会で必要なもの』と定めている」とレポートには書かれていて、ロンドン警視庁の顔認証技術の初期の実験は法に反して行われた可能性がある、とほのめかしている。

公共スペースでの顔認証を阻止するためのLibertyの請願にはすでに2万1000もの署名が集まっている。

顔認証をめぐる法的枠組みと法施行について先週議論した、デジタル権と規制を専門とするUCLの講師Michael Veale(マイケル・ヴィール)博士は、EUのデータ保護フレームワークであるGDPRは、例外を制定することなく監視目的での私企業による顔認証を禁じている、とTechCrunchに話した。

英国の男性はウェールズ警察による初期の顔認証実験で訴訟を起こした。人権をめぐり第1審では敗訴したものの、上訴を検討している。ロンドン警視庁のケースでは企業(NEC)がサービスを警察に提供しているが、訴訟は警察のテック使用に関係するものだ。

画像クレジット: Steffi Loos/Getty Images

[原文へ]

(翻訳:Mizoguchi

中国では顔認識にも美顔フィルターを搭載へ、自分の顔が醜いと利用を拒否

中国の顔認識ソフトウェアは、正確なだけではダメなのだ。Alibaba(アリババ)傘下でQRコード決済サービスなどを展開しているAlipayは最近、ユーザーの外見がソフトウェアの成功の鍵であることを証明した。

米国時間7月2日、Alipayは中国語のソーシャルメディアであるWeibo(微博、ウェイボー)で、その決済アプリの「あなたのお顔で払いましょう」システムにビューティーフィルター(美顔フィルター)を加えたと発表した。1週間後には、Alipayの顔スキャンシステムを装備している小売店全店に、その機能が行き渡る。

AlipayはWeiboにこう書いている。「あなたは(自撮りアプリの)ビューティーカメラで撮ったのよりもずっと美しくなります。あなたご自身も感動されるでしょう」。

この新しい機能は、顔認識マシンは人の顔を醜くするという苦情への対応だ。ニュースポータルであるSina Technologyが行った調査によると、回答者の60%以上がこの決済方法では自分の顔がふつうのカメラよりも醜くなる、と答えている。美容を気にする人々は、スーパーマーケットの混みあったレジでコンピューターの大きな画面に自分の無愛想な顔が映ったらとっても嫌だろう。

中国では美容意識の高まりにより、香港に上場した美顔セルフィーアプリのMeitu(美图、メイツー)を捨てて、最近Nasdaqに上場して1億8000万ドルを獲得した整形手術のマーケットプレイスのSo-Young(ソヨン、新氧)へ行く人も増えている。

メッセージングの大手WeChatの決済アプリWeChat Payも、Alipayに追随して美顔認識を採用するだろうか?ビューティーフィルターは企業にとって、必須ではないが競争上無視できないツールだ。スマートフォンメーカーのXiaomi(シャオミ)も最近Meituをマネて、セルフィーやステッカーやグラフィクスを重視した新機種を発売した。

Alipayの月間アクティブユーザーは10億を超えている。WeChatの決済アプリはそこまで行っていないが、3月には1日に処理するトランザクションが10億を超えたと発表した。

画像クレジット: Alipay via Weibo

[原文へ]

(翻訳:iwatani、a.k.a. hiwa

米議会に超党派で提出、顔認識技術の商業的利用を監視監督する法案

米国時間3月14日、米ハワイ州選出のBrian Schatz上院議員(民主党)とミズーリ州選出のRoy Blunt上院議員(共和党)が、顔認識技術の商用利用を監視監督する法律の法案を提出した。Commercial Facial Recognition Privacy Act(商用顔認識プライバシー法)と名付けられたその法律は、顔認識を使用している企業がそのことを消費者に知らせる義務と、企業がユーザーの同意なく顔認識データをサードパーティと自由に共有することに対する制限を定めている。

Blunt上院議員は法案についてこう説明している。「消費者は自分のデータがどのように集められ利用されているかについて、ますます心配している。それらのデータには、顔認識技術で集められたデータも含まれる。そのため、今後のこの技術の開発に対してガードレールを設け、責任ある実装が為されるようにしていく必要がある」。

マイクロソフトは、この超党派的法案を支持している。それは、顔認識技術に対する同社の規制方針にも合致している。マイクロソフトの社長Brad Smith氏は、December誌でこう述べている。「この技術を規制する法律の採択を政府が2019年に開始することが重要、とわれわれは考えている。今ならまだ、顔認識という霊鬼が瓶から飛び出したばかりの段階だ」。

The Hill誌の指摘によると、この法案にはマイクロソフトが前に言及していた警察による顔認識技術の使用に関する条項が含まれていない。例えば、特定個人の監視には裁判所命令を要するといった制限条項。代わりに法案が重視しているのは、顔認識技術の商業的利用がもたらすリスクだ。顔認識技術に対する法制は今年から、マイクロソフトの本社がある州では州レベルでも進んでいて、同社はそれを支持している。

Schatz上院議員は法案についてこう述べている。「顔は人間のアイデンティティであり、個人のものだ。だから顔を追跡したり分析しようとする企業には、事前に許可を求める責任がある。われわれの法案は、企業が顔認識技術を使ってデータをシェアするとき、人びとが事前に確実にその情報を知り、もっと重要なこととしては、そのやり方を人びとがコントロールできるようにするものだ」。

法案の去就はともかくとして、これを見るとこの技術に対する、議会による規制の基調のようなものが分かる。マイクロソフトの関与からもわかるように、顔認識技術に対しては一般社会からの関心も濃密だから、企業は法律ができる前に法案作成の段階から積極的に関わっていくべきではないか。

[原文へ]

(翻訳:iwatani、a.k.a. hiwa

Amazonの株主たちが顔認識技術を法執行機関に売らないことを要請

Amazonの株主たちが、同社の顔認識ソフトウェアRekognitionを法執行機関(警察など)に売らないことを求めている。その技術が“人権侵害と市民的自由の侵犯を惹起する可能性はない”、と取締役会が判断しないかぎり、Amazonがそのソフトウェアを政府機関に売らないことを、株主たちは要求している。

Amazon Web Services(AWS)の一部であるRekognitionには、顔の画像やビデオを分析する能力がある。その技術は人を認識し追尾できるだけでなく、人の感情も認識する。Amazonはこれまで少なくとも二つの州の法執行機関にRekognitionを売った、と過去に報道されている。合衆国移民税関執行局(U.S. Immigration and Customs Enforcement, ICE)に売り込んだ、という報道もある

昨年5月にアメリカ自由人権協会(American Civil Liberties Union, ACLU)の北部カリフォルニア支部がRekognitionを調べて、同支部が得た関連文書は人権と市民的自由に関する深刻な懸念を喚起する、と述べた。そのときACLUが得た試験報告は、Rekognitionが28名の国会議員を誤判定したとし、とりわけ黒人の議員を犯罪者と認識した、と言っている。

今回の決議文は非営利団体Open MICがまとめたもので、決議に参加した株主たちの総株数は資産額13億2000万ドルに相当する。

Open MICの事務局長Michael Connorが、同団体のブログにこう書いている: “これはよくあるパターンで、先進的なテクノロジー企業が画期的な技術としてマーケティングしているものが、人間や社会に及ぼす影響をまったく認識配慮していない、という例だ。Rekognitionを政府に売ることは、会社と投資家の双方にとって大きなリスクだ。だからその販売を即刻やめることは、喫緊の要請なのだ”。

この決議は、Amazonの今春の株主総会で票決される予定だ。

Amazonはこの記事へのコメントを拒否した。

[原文へ]
(翻訳:iwatani(a.k.a. hiwa

Googleは顔認識技術を外部に売らないと決定…悪用を防ぐため

このところテクノロジー企業に対する、顔認識技術に関する強力な規範の要請が厳しい。先頭を切ったMicrosoftは厳格なポリシーを約束し、そのほかの企業にも同社の後に続くことを求めた。

そしてGoogleのSVP Kent Walkerは、アジアの医療に人工知能を活用することの利点を挙げたブログ記事の終わりの方で、同社が顔認識技術のAPIを売らないことを確約している。そして彼は、この技術の悪用を心配する声を列挙している。

Walkerは曰く: “顔認識技術は、行方不明者を見つけるなど、さまざまな良いアプリケーションの可能性がある。しかし多様な使い方のあるそのほかの多くの技術と同様に、顔認識技術の利用には細心の注意が必要であり、一定の原則と価値観に従う必要がある。そしてそれにより、悪用と有害な結果を避けなければならない。われわれは今後も多くの企業との協力関係を継続して、これらの課題を特定し対策を講じなければならない。そして一部の他社と違ってGoogle Cloudは、重要な技術的および政治的疑問がクリアされるまでは、顔認識の汎用APIを外部に提供しないことを選んだ”。

GoogleのCEO Sundar Pichaiは今週のThe Washington Post紙のインタビューで、AIの倫理をめぐる同様の懸念の高まりについて述べた: “テクノロジーは、とにかく作ってだめだったら直す、という従来のやり方をやめるべきだ。そんなやり方は、もうだめなのだ。長期的には、人工知能は核よりもずっと危険なものになりえる”。

顔認識技術をめぐって、とくにそのプライバシー問題と人種差別的問題を批判してきたACLUは、ピチャイの声明を賞賛するとともに、大企業に対しては今後も圧力をかけ続けなければならない、と言っている。

ACLUのテクノロジー担当部長Nicole Ozerが声明で述べている: “Googleが人権を侵害する顔監視プロダクトを今後も作らないし売らないようにするために、継続的に圧力をかけ続ける必要がある。またAmazonやMicrosoftに対しても、危険な顔監視技術を政府に提供しないよう、これから何度も呼びかけていく必要がある。企業には、自分たちの製品がコミュニティの攻撃に使われたり、人間の権利と自由を侵さないようにする責任がある。責任はすべての企業にある、という古い言い訳は、もはや通用しない”。

同団体はとくに、AmazonのRekognitionソフトウェアを厳しく批判している。今週同団体はまた、顔認識技術を使って“不審者”を見分けるインターホンで同社が特許を申請したことを、やり玉に挙げた

[原文へ]
(翻訳:iwatani(a.k.a. hiwa

アメリカの複数の国会議員がAmazonの顔認識ソフトウェアの精度で質問状、表現の自由の無視、人種差別の疑いも

一部の国会議員たちは、Amazonがその物議をかもしている顔認識ソフトウェアRekognitionに関する質問に“十分な答を提供していない”とし、いつものように質問に無言で応じることは、答とは認めない、と主張している。

質問状には、上院議員のEdward Markeyや下院のJohn LewisとJudy Chuら8名の議員が署名し、同社の技術の仕組みやその使われ方について、Amazonの最高経営責任者Jeff Bezosに説明を求めている。

書状が送られたのは、このクラウドとリテールの巨大企業が、アメリカ政府およびフロリダ州オーランドを含むアメリカの一部の大都市からサーベイランスを受注して注目を集めた直後だ。

質問の主旨は議員たちによると、“Amazonがそのバイオメトリックス技術をアメリカの移民関税執行局(Immigration and Customs Enforcement, ICE)に積極的に売り込んでいるが、そのパイロット事業にはAmazonによる法執行職員たちに対する実地訓練が欠けている、という報道を契機として、高まった懸念を表明すること”、だという。

議員たちによると、そのシステムは精度に問題があり、人種的偏りに導きかねず、憲法で保証されている表現の自由を犯すおそれもある、という。

書簡は曰く: “しかしながら、現時点では、このタイプのプロダクトには深刻な精度の問題があるという重大な懸念を持たざるをえない。それにより有色者のコミュニティにいわれなき重荷を強い、公共の場において修正第一条の権利を実行したいとするアメリカ人の意思を抑圧するおそれもある”。

議員たちは、Amazonがどうやって精度をテストしたのか、それらのテストは独立的客観的に実施されたのか、そして偏りをどのようにテストしたのか、Amazonに説明を求めている。

[Amazonは耳に栓をするのではなく、顔のサーベイランスが誰にでももたらす深刻な脅威に関し責任を取る必要がある。とくに脅威が大きいのは、有色者や移民、そして活動家だ。Rekognitionを警察やICEの手に渡すべきでない。]

この質問状送付は、ACLUが、そのソフトウェアが28名の議員の顔認識に失敗したことを見つけたあとに行われた。とくに失敗率が高かったのは、有色者だった。

顔認識のソフトウェアは、そもそもの最初から物議を招いている。自社の社員たちからの懸念表明があったあとでもAmazonは、にもかかわらず現状の計画を推進し、何がなんでもその技術を売っていく、と言っている。

Amazonは、二週間あまりのうちに、質問状に答えなければならない。Amazonのスポークスパーソンは、コメントの要求に応じなかった。

関連記事: Amazonは顧客のメールアドレスを露出したことを認めたが詳細を明かさず〔未訳〕

[原文へ]
(翻訳:iwatani(a.k.a. hiwa

即答せよ! このシステムは問題に答える顔を見て人間であることを確認する

ボットとの戦いに終りはない。しかし、誰もが密かに想像しているスカイネットのようなシナリオでは終わらないことを望みたい。ちなみに、今重要なのはスパムを退治することで、組織的殺人を防ぐことではない。それでも、機会はますます賢くなり、単純な顔認識だけでは人間の識別に十分ではないこともある。今や機械は顔を作ることもできる —— しかし、質問に答えるときの顔を作るのは不得意のようだ。

ジョージア工科大学の研究者らは、CAPTCHAタイプのシステムに取り組んでいる。そして人間がありとあらゆる質問にすばやく自信を持って答えられるのに対して、最先端の人工顔アニメーションと音声生成システムを使っても、それらしい返答をコンピューターが生成するのは難しいという事実に着目した。

人間とロボットを区別するテストにはこの種の方法を用いたものがいくつもある。文字や動物や道路標識を認識することから、なんらかのGoogleサービスにログイン中かどうかまで様々だ。しかし理想的には、人間には簡単でロボットには難しいものがいい。

人間には必ず顔がある。しかし、そこそこリアルな顔をレンダリングして修正するのはコンピューターにとって膨大な仕事だ(JPEGに騙されないシステムが前提)。

また、人間は単純な質問に答えるのも得意で、無意味な質問ならなおさらだ。しかしコンピューターは、「犬と猫どっちが好き?」といった質問にもっともらしく答えるのために無駄な時間を消費する。人間であるわれわれは、この質問に正しい答えがないことを知っていて、直ちに答えることができる。コンピューターは問題を理解するためにあらゆる物事を評価して、答えを再確認したうえで解答する顔をレンダリングしなくてはならない。それには時間がかかる。

ジョージア工科大学のErkam Uzun、Wenke Leeらがたどり着いた答えはこれだ。まずログインしようとしているひとをカメラに収め —— これはCAPTCHAでカメラを使うことが許されているとい前提で、それはそれで別の問題がある —— 質問を投げかける。もちろんそこには第二の錯乱要素 —— 歪んだ文字などなど —— もあるかもしれないが、重要なのはコンテンツで、質問は人間がすぐに答えられるくらい簡単であると同時にコンピューターには難題でなくてはならない。

テストの結果、人間は平均して1秒以内に解答したのに対して、最高水準のコンピューターは最短でも6秒、たいていはもっとかかった。これは、システムを破るには何が必要かを知っている強力顔レンダリングエンジンを、スパマーが持っていた場合の話だ。認証システムはタイミングだけではなく、声や顔をユーザーの記録と照らし合わせて確認している。

「私たちはアタッカーのやってきそうなことを知って問題に取り組んだ。画像の質を高めることは一つの可能性だが、まったく新しいゲームを作りたかった」とジョージア工科大学の研究者、Simon Pak Ho Chungは言った。

これは日頃ウェブで見かける単純なCAPTCHAよりずっと複雑なシステムだが、この研究によってソーシャルネットワークなどのログインのセキュリティーを高めることが期待できる。スパマーやハッカーたちが、日々新しいコンピューターや新しい機能を手に入れる今、われわれ人間も得られる限りの助力を必要としている。

[原文へ]

(翻訳:Nob Takahashi / facebook

顔認識技術のTrueface.aiがIFTTTを統合して多様な実用的利用が可能に

500 Startupsと多くのエンジェル投資家が支援している、まだステルス状態の顔認識スタートアップTrueface.aiが、IFTTTとの統合により、デベロッパーたちが同社の技術をいろいろ試せるようにしている。

CEOのShaun Mooreによると、IFTTTとの統合により初めて、同社の顔認識技術が、複雑なコードを理解する必要なく、多くの人が利用できるようになる、という。

同社は最初、ハードウェアとソフトウェアのベンダーだったが、2017年にハードウェアの取り扱いをやめて、ソフトウェアにフォーカスするようになった。

“われわれ自身がもっと幅広いアプローチを取ることによって、ハードウェアのデベロッパーが自分のやりたいことをできるようになる、と考えた”、とMooreは語る。

Trueface.aiが今集中しているデジタルの認識確認技術は、たとえば誰かが銀行の口座を開こうとするときの本人確認や、公証事務のデジタル化などに応用できる。しかも、“本人性や所有権の確認をリモートでできるようになる”。

その目標は、顔認識技術を誰でも使えるようにすることだ。そしてそのための第一歩が、IFTTTの統合だ。それによってデベロッパーやメイカーたちの知名度を上げることができる、とMooreは考えている。

  1. screen-shot-2018-01-25-at-2-52-47-pm.png

  2. screen-shot-2018-01-25-at-2-53-05-pm.png

  3. screen-shot-2018-01-25-at-2-53-17-pm.png

  4. screen-shot-2018-01-25-at-2-53-24-pm.png

“これ(IFTTTの統合)は、一般的にサードパーティがうちの技術を利用するときの、ひとつの形だと思う。たとえばスマートロックのLockitronがあれば、Truefaceが来客の顔を認識し、その判定に基づいてIFTTTがドアをアンロックする”。

その顔認識に使われる技術は、今やおなじみのディープラーニングだ。ソフトウェア専門で行く、と決める前のTrueface.aiは、本誌TechCrunchのニューヨークオフィスにやってきて、その前身的技術であるChuiをデモしたことがある(下のビデオ)。

その機械学習のモデルは、数百万もの顔の画像で訓練され、そしてユースケースによっては、人間の顔の数学的表現を生成することもできる(これを数学用語で埋め込み(mbedding)と言う)。

埋め込みを保存しておくと、他のモデルが本人性の推断に利用できる。同社のモデルは、生きた本人でなく、本人の顔写真でシステムを騙そうとしても騙せないようにできている。スマホのロック画面なんか、もうだめだからね。

IFTTTの統合とともに同社は、そのIDVerifyプロダクトによって同社の技術にユーザーを慣れさせようとしている。

すでに同社の技術は150か国以上の本人性証明ドキュメントと互換性があり、それらをTrueface.aiのWebアプリケーションやモバイルアプリケーションで利用できる。

Mooreは曰く、“何かを自分で作ることの好きな人たちも、うちの技術の立派なユーザーだ、と考えているよ”。

[原文へ]
(翻訳:iwatani(a.k.a. hiwa

Facebookの顔認識機能は、タグ付けされていない写真も本人に通知してくれる

Facebookは、ユーザーの写真がアップロードされたら、たとえタグ付けされていなくても本人にわかるようにしたいと思っている。今日(米国時間12/19)Facebookは、新しい顔認識機能「フォト・プレビュー」を公開し、ユーザーの顔が写っている写真がアップロードされたとき、自分でタグ付けするか、そのままにするか、アップロードした人に削除を依頼するか、Facebookに通報するかを選べるようにした。

この機能は、自分の写真がFacebookに出回っているのに本人が知らない、ということが起きないようユーザーを安心させるためにつくられた。またこれはなりすましを防ぐ効果もある。ただしFacebookは、顔認識を使って広告ターゲティングを強化したり、ニュースフィードの表示順序の判定に利用する計画はないと私に言った。

もしあなたが誰かのプロフィール写真に写っていて常に公開されていたら、必ず通知を受ける。それ以外の写真については、あなたがその写真の公開範囲に含まれている場合に限り通知を受ける。つまり、自分が見ることのできない写真の通知は送られてこない。これはアップロード主のプライバシーを保護するためだ。プロフィールページのフォト・レビューセクションでは、顔認識されたけれどもタグ付けされていない写真を確認できる。

Facebookの応用機械学習製品マネージャー、Nipun Matherはこの機能について、人々に制御する力と安心感を与えつつ過去を懐かしむ機会を提供するために作っていると話した。

さらにFacebookは、写真とビデオの顔認識全体に関する新しいプライバシー設定を導入し、ユーザーは自分の顔テンプレートを削除して新機能のフォト・レビューと従来のタグ付け候補機能を無効にできるようにした。新機能は今後数週間のうちに全世界に展開される。なお、ヨーロッパとカナダはプライバシー法によって顔認識技術の利用が禁止されている。

Facebookはこの機能を視覚障害者の補助にも利用している。同社の機械認識で写真に写っているものを説明する機能は、タグ付けされていな友達の名前も読み上げるようになる。

「将来の目標はこの機能をどこででも利用できるようにすること…しかし今はタグ付け候補を利用できる市場に焦点を合わせている」とFacebookのプライバシー最高責任者代理のRob Shermanは話した。

タグ付けの推奨はプライバシーを弱くすると見られることもあるが、フォト・レビューはプライバシーを強化することが期待され、規制当局からも認められる可能性がある。それがFacebookから消えてほしい未承認の写真であれ、恥ずかしいのでタグ付けされたくないがコメントは読みたい写真であれ、誰かがあなたになりすまそうとしている写真であれ、フォト・レビューは顔認識の利用に透明性を与えるだろう。

[原文へ]

(翻訳:Nob Takahashi / facebook

この検索エンジンは、自分の顔を検索結果と交換する

feat_faceswap

ウェーブのかかった長い髪の自分を想像したことはあるだろうか。きっと素適だろう。しかし、大枚をはたいてサロンに行ったり、Photoshopに何時間も費やすことなくいろんな髪型を試すにはどうすればいいだろうか。必要なのは自撮り写真とDreambitだけ。顔を交換できる検索エンジンだ。

システムはあなたの顔写真を分析して顔だけをうまく切り取る方法を見つける。次に、検索ワード ― 例えばカーリーヘア ― と一致する画像を検索し、あなたにあった位置に顔のある写真を探す。

ターゲットの画像に対しても同様のプロセスで顔マスクし、あなたの顔で置き換えれば出来あがり! カーリーヘアのあなたを何度でも何度でも試せる。ちょっと「マルコビッチの穴」のシーンを思い出させる。ただし相手の顔や状況によってはいくらでも薄気味悪くなる。その点ケリー・ラッセルはどんなヘアスタイルでも美しく見えることが下の図からわかる。

Diagram showing the process by which faces are detected, masked, and replaced.

The process by which faces are detected, masked, and replaced.

交換するのはヘアスタイルに限らない。映画でも場所でも絵画でも、交換できる位置に顔があれば置き換えてくれる。顎ひげのある人等、縁を見つけくい顔はうまくいかないことがあるので、ラスプーチンやガンダルフと入れ替わることはできないかもしれない。

Dreambitを作ったのは、ワシントン大学でコンピュータビジョンを研究するIra Kemelmacher-Shlizermanだ(彼女は顔認識拡張現実でも興味ある研究をしている)。そしてこのシステムは楽しく遊ぶためだけではなく、もっと本格的な応用の可能性も持っている。

Kemelmacher-Shlizermanは自動エイジ・プログレッションという過去の写真から現在の顔を合成するシステムも作っている。これは行方不明者の捜索に役だつ。

「行方不明の子供たちは、髪を染めたりスタイルを変えることが多く、顔だけのエイジ・プログレッションでは十分ではない」と大学のニュースリリースで彼女は語った。「これは行方不明者の容姿が時間と共にどう変わるかを想像する第一ステップだ」。

Kemelmacher-ShlizermanはTechCrunch宛のメールで、ソフトウェアはまだまだベータ段階でFBIが使うようなものではないと言っている。

Dreambitとその背後で動くプロセスについては来週SIGGRAPHで発表されるが、彼女の論文、“Transfiguring Portraits”は今すぐ読むことができる。

[原文へ]

(翻訳:Nob Takahashi / facebook

顔認識システム、百万人の顔データベースに大苦戦

faces

遍在するビデオカメラと高度な顔認識技術によって可能になる恐怖の監視国家を心配している人は多い ― しかし最新の研究によると、最高のアルゴリズムでも、百万人以上の顔を区別するとなると絶対確実からはほど遠いようだ。

ワシントン大学のMegaFace Challengeは、昨年末から行われている顔認識アルゴリズムの公開競技だ。狙いは、画像データベースサイズの桁が増えていった時、システムが人間に勝てるかどうかを見ることにある。

多くのシステムが何百万、何億人の写真を使って顔を学習しているが、実際のテストは「Labeled Faces in the Wild」等のセットで行われ、その数は1万3000枚ほどだ。しかし、実世界の状況はそれとは違う。

「顔認識アルゴリズムのテストは『地球規模』で行われるべきだと推奨するのは、われわれが最初だ、と研究チームのリーダー、Ira Kemelmacher-ShlizermanがTechCrunch宛のメールで言った。「多くの人たちがその重要性に同意すると思う。大きな問題は、公共データベースとベンチマークを作ることだ(同じデータを使って競争できる)。ベンチマークの作成は大変な作業だが、研究に大きく貢献する」

研究者らはまず、既存のラベル付けされた人々の画像から始めた ― 様々な分野の有名人のセットや、幅広い年齢の人々のセット等がある。彼らはそこに、FlickrからCreative Commonsライセンス付きの顔写真を入手し、「不正解ノイズ」として加えた。

彼らは、ノイズを10から最大100万まで増やしてテストをした ― 正解の数は変えずノイズだけを増やした。

megaface_results

テストの結果、少数の驚くほど頑強なアルゴリズムが浮上した。幅広い年齢セットで圧勝したのは、GoogleのFaceNetで、同システムとロシアのN-TechLabが、有名人データベースでは接戦だった(中国四川省のSIAT MMLabには特別賞)。

有名なところで名前がないのはFacebookのDeepFaceで、間違いなく有力な優勝候補のはずだ。しかし、参加は任意であり、Facebookはシステムを公開していないので、MegaFacesでの成績は謎のままだ。

上位2システムのいずれも、ノイズが増えるにつれ数字は確実に下がっているが、有効性はグラフの対数スケールほどには低下しない。GoogleがFaceNetの論文で主張する超高精度の値は、ノイズが1万件を超えると達成されなくなり、100万になると、他には大差をつけているものの、何かの目的に使えるだけの精度は得られなかった。

それでも、100万件のノイズの中から4人中3人を見つけるのはすばらしい ― ただし、その成功率は法廷やセキュリティー製品では通用しない。どうやら監視国家が現実になるのはまだ先のようだ。

研究成果は、一週間後にラスベガスで行われるConference on Computer Vision and Pattern Recognitionで発表される。

[原文へ]

(翻訳:Nob Takahashi / facebook