セキュリティーの欠如で顔認識スタートアップClearviewのソースコードがすべて漏洩

2020年1月、ある新聞社の調査によってその衝撃的な存在が明らかになった、顔認識スタートアップのClearview AI(クリアビュー・エーアイ)は、たちまちハイテク系スタートアップ界の最も捉えどころがない隠蔽体質の嫌われ者になってしまった。

物議を醸している同社は、法執行機関が人の顔写真を撮りアップロードすると、30億人分の画像を保管しているとされる同社のデータベースで照合ができるサービスを提供しているが、その画像とは、一般のソーシャルメディアから集めたプロフィール写真だ。

だがしばらくの間、サーバーの設定ミスにより、同社の内部ファイル、アプリ、ソースコードが、インターネット上の誰もが見られる形で漏洩してしまった。

ドバイのサイバーセキュリティー企業SpiderSilk(スパイダーシルク)の最高セキュリティー責任者を務めるMossab Hussein(モサブ・フセイン)氏は、Clearviewのソースコードが保管されていたレポジトリーを突き止めた。そのレポジトリーはパスワードで守られてはいたが、設定ミスにより誰でも新規ユーザー登録ができ、ソースコードが保管されているシステムにログインできる状態になっていた。

レポジトリーには、コンパイルすればアプリとして実行できるClearviewのソースコードが保存されていた。さらにそこには、Clearviewのクラウド・ストレージのバケットにアクセスできる秘密の鍵と認証情報もあった。そのバケットの中には、Windows版とMac版とAndroid版のアプリの完成品が収められていて、さらにはApple(アップル)が規約違反としてブロックしたiOS版アプリもあった。また、通常はテスト用にのみ使われる開発者向けの初期のリリース前バージョンのアプリも保管されていたと、フセイン氏は言う。

しかもフセイン氏によれば、そのレポジトリーでは、ClearviewのSlackのトークンも晒されていた。これを使えば、同社の内部メッセージや会話がパスワードなしで誰にでも読めてしまう。

Clearviewには、ニューヨーク・タイムズによってその隠密活動を暴かれて以来、ずっとプライバシーの懸念が付きまっている。だがその技術はまだほとんどテストされておらず、顔認証の精度も実証されていない。Clearviewでは、この技術は法執行機関にのみ使用を許すものだと主張しているが、同社はMacy’s、Walmart、NBAといった民間企業にも声を掛けていたと報道されている。だが今回のセキュリティー上の失態により、セキュリティーとプライバシーへの取り組みに関して、同社にはさらに厳しい目が向けられることになりそうだ。

コメントを求めると、Clearviewの創業者であるHoan Ton-That(ホアン・トンタット)氏は、彼の会社は「常に大量のサイバー侵入攻撃に晒されているが、セキュリティー強化には多額の投資を行ってきた」と主張した。

「私たちは、HackerOne(ハッカーワン)の協力で賞金付きのバグ探しプログラムを立ち上げました。Cleaview AIの欠陥を発見したセキュリティー研究者には報酬が支払われます」とトンタット氏。「SpiderSilkは、このプログラムには参加していませんが、Clearview AIの欠陥を見つけて私たちに連絡してきました。今回の漏洩事件では、個人が特定されるような情報、検索履歴、整体認証情報は一切漏れていません」。

iOS用Clearview AIはログインする必要がないとフセイン氏は言う。彼は、このアプリの仕組みがわかるスクリーンショットをいくつか取り込んだ。ここではフセイン氏は、マーク・ザッカーバーグ氏の写真で試している。

トンタット氏は、SpiderSilkの行動を恐喝だと非難しているが、ClearviewとSpiderSilkとの間で交わされた電子メールから見えてくる様子は違っている。

これまでMoviePassRemineBlindといった数々のスタートアップのセキュリティー上の問題を報告してきたフセイン氏は、Clearviewの欠陥を報告はしたが、賞金は遠慮したと話している。受け取りにサインすれば、この一件を世間に公表できなくなるからだ。

賞金付きでバグ探しプログラムを実施する企業は、よくこうした契約を求める。セキュリティー上の欠陥を修復した後にその件を公表されないよう、秘密保持契約を結ばされることもある。だが、研究者たちには賞金を受け取る義務も、秘密保持契約を守る義務もないのだと、TechCrunchは専門家たちから聞いている。

トンタット氏は、Clearviewは「ホストの完全な犯罪科学検査を実施し、不正なアクセスは他に一件もなかったことを確認した」と話す。秘密の鍵は既に変更され、もう使えないとのことだ。

フセイン氏の発見により、普段はほとんど見ることができない秘密主義的な企業の業務が垣間見えた。同氏が公開したスクリーンショットには、トンタット氏が「プロトタイプ」だと説明した同社のInsight Camera(インサイト・カメラ)を参照するコードとアプリがわかるものがある。このカメラはもう開発が中止されている。

Clearview AIのmacOS版アプリのスクリーンショット。APIを使ってClearviewのデータベースに接続される。またこのアプリは、Clearviewの以前のカメラ・ハードウェアのプロトタイプInsight Cameraを参照するようにもなっていた。

BuzzFeed Newsによると、そのカメラをテストした企業に、ニューヨーク市の不動産会社Rudin Management(ルーディン・マネージメント)があると伝えている。同社が所有する2つのマンションに試験的に導入したという。

フセイン氏は、Clearviewのクラウド・ストレージのバケットの中に、およそ7万本もの動画を発見した。マンションのロビーに、人の顔の高さに設置されたカメラの画像だ。その動画には、建物を出入りする住人の顔が映されている。

トンタット氏は「防犯カメラ製品の試作段階で、私たちは、厳密にデバッギングを目的とした生の映像を収集していました。建物の管理会社から許可を得ています」と説明する。

TechCrunchが調べたところによると、Rudinが所有する建物はマンハッタンのイーストサイドにあった。物件リストとロビーの映像からも、それが確認できた。この不動産会社の担当者にメールを送ったが、返事は来ない。

マンションのロビーに設置し、通り過ぎる住人を撮影したカメラの映像のひとつ(顔のぼかしはTechCrunchが加工)。

Clearviewは、1月に世間に知られるようになってから、厳しい監視の目に晒されている。さらにハッカーたちの標的にもなっている。

2月にClearviewは、データ漏洩の際に顧客リストが盗まれたことを顧客に報告した。だが、同社のサーバーには「アクセスの形跡はない」と主張している。Clearviewはまた、Android版アプリを保管したものを含むクラウドストレージの複数のバケットをプロテクトせずに放置していた。

バーモント州の検事当局は、消費者保護法違反の疑いで、すでに同社の捜査を開始し、ニュージャージーサンディエゴを含む各警察署にはClearviewを使わないよう通達を出した。Facebook、Twitter、YouTubeをはじめとするハイテク企業の一部も、Clearview AIに対して停止通告書を送っている。

CBS Newsのインタビューで、トンタット氏は自社の事業をこう弁護していた。「もしそれが公共のもので、使える状態になっていて、Googleの検索エンジンで見られるものなら、それは私たちが所有しているとも言えます」。

[原文へ]
(翻訳:金井哲夫)

アップルがClearview AIのiPhoneアプリをルール違反でブロック

論争の渦中にある顔認識技術のスタートアップClearview AIが作ったiPhoneアプリをApple(アップル)がブロックし、そのアプリの利用を実質的に禁じた。

AppleはTechCrunchに、そのスタートアップがAppleのディベロッパーエンタープライズプログラムの規約に違反していたことを確認した。

そのアプリは同社(Clearview AI)が、法執行機関の職員だけに提供していると主張しているものだが、iPhoneのユーザーなら誰でも、iPhoneのカメラや画像から写真をアップロードして、同社の30億の写真を収めたデータベースを検索できる。しかしBuzzFeed Newsの記事によると、同社が法執行機関のユーザーだけに提供していると主張するそのアプリのユーザーには、、Macy’sやWalmart、Wells Fargoなど、多くの民間企業が含まれている。

Clearview AIは1月に、The New York Timesの記事で一般に知られるようになって以来、メディアと法廷の嵐に巻き込まれた。同社はソーシャルメディアのサイトから写真をかき集めていたので、大手テクノロジー企業の怒りを買った。そしてハッカーの注目されるようになり、米国時間2月26日に同社は、データ侵害により顧客リストを盗まれたと認めた。

Amazon S3の公開ページにそのiPhoneアプリがある(画像提供:TechCrunch)

TechCrunchは、Clearview AIのiPhoneアプリがAmazon S3の公開ストレージ上にあることを米国時間2月27日に発見した。ただしそのページには「一般人と共有してはならない」という警告があった。

さらにそのページには「このページはiPhoneで開いて」インストールし、同社のエンタープライズ証明を許可した上でアプリの実行を許されると書いてある。

しかしAppleのポリシーでは、アプリのユーザーがClearview AIという組織すなわちエンタープライズの外にいる場合、それは許されない。

Clearview AIはiPhone上でエンタープライズ証明を使っている(画像提供:TechCrunch)

Appleが発行するエンタープライズ証明は、企業が社内でのみ使うiPhoneやiPadアプリをAppleが認可した証明になる。たとえばアプリをアプリストアで公開する前に、社内でテスト的に使う場合によく使われる証明だ。Appleはエンタープライズ証明の使用について厳しい規則を定めており、一般ユーザーがそれを使うことはできない。今回のように一般ユーザーにも使わせれば、それは乱用であり誤用だ。

2019年、TechCrunchはその独占記事で、FacebookGoogleの両社が、消費者向けアプリに彼らのエンタープライズ証明を使って、Appleのアプリストアをバイパスしていることを報じた。Appleはこれらテクノロジー大手のエンタープライズ証明を取り消して、違反アプリを無効にした。そしてケータリングやランチメニューアプリなど、その証明に依存しているそのほかのアプリも無効にされた。

Clearview AIのアプリは、リリース前やテストバージョンでよく使われるように、「ベータ」のラベルが付いていた。しかしそんなラベルは、アプリをClearview AIの顧客が使っていないことの証拠にはならない。

Clearview AIのCEO Hoan Ton-That(ホアン・トンタート)氏はTechCrunchに対して「現在、利用規約のコンプライアンスに関してAppleと折衝中だ」と語った。

そのアプリは、ネットワークトラフィックツールと逆アセンブラでざっと分析してみると、米国時間2月27日にGizmodoが見つけたClearview AIのAndroidアプリの動作と同じようだ。

Androidアプリと同じく、使用するにはClearview AIが認めたユーザー名とパスワードが必要だ。

関連記事: 米移民局や検察局などが採用中の顔認識技術が一般企業にも売られていた

[原文へ]
(翻訳:iwatani、a.k.a. hiwa

米移民局や検察局などが採用中の顔認識技術が一般企業にも売られていた

激しい論争のさなかにある顔認識技術を、法執行機関にしか売らないと宣言した米国ニューヨークのClearview AIは、最近の報道によると顧客ベースにはっきりしない点がある。すなわちBuzzFeed Newsによると、この小さな謎の企業は、その技術を相当広範囲に買われているらしい。Clearviewが挙げる有料顧客は移民関税執行局(移民局)やニューヨーク南部地区検察局、リテール大手のMacy’s(メーシーズ)などだが、30日間の無料試用期間を利用してその技術をテストしている企業はもっと多い。Clearviewの顧客リストに載っている法執行機関でない企業や団体は、Walmart(ウォルマート)、オンラインチケットサービスのEventbrite(イベントブライト)、NBA(全米バスケットボール協会)、Coinbase、Equinoxなどとても多い。

その記事によると、Clearviewにユーザーとして登録していない企業や団体でも、社員や職員が個人的にテストしていることはありえる。BuzzFeed Newsの記事から引用すると「そういう企業や団体が、社員や職員の個人的利用を知らなかったり、あるいは顔認識技術を試していることを否定する場合もある」そうだ。

一例として、ニューヨーク市警察はClearviewとの関係を否定しているが、しかし署のログによると、実際には30人もの警察官が、そのソフトウェアで1万1000回も検索している。

1週間前にClearviewのCEOであるHoan Ton(ホアン・トン)氏は、Fox Business誌上の引用の中で、同社の技術は「法執行機関にしか提供していない」とコメントしている。でも同社の最近の顧客リストと彼のその言葉は矛盾しているようだ。

米国自由人権協会(ACLU)のスタッフで弁護士のNathan Freed Wessler(ネイサン・フリード・ウェスラー)氏によると、「そのリストが正確なものであるならば、それはプライバシーとセキュリティと市民的自由にとっての悪夢だ。政府機関が国民の顔を、いかがわしいデータベースで検索すべきではない。その何十億という写真は本人に無断で使われており乱用を防ぐ手段もない」という。

顔認識技術は、侵襲的なテクノロジーであるという評判以上に論者たちの主張では、重大な結果をもたらすような状況で使ってよいほど十分に正確ではない。特に顔認識技術は、非白人で非男性の顔を正確に同定できないとして悪名を買っている。それは、現実世界では甚大な被害をもたらすという顔認識技術に対する批判を裏打ちするような結果だ。

Clearviewのソフトウェアが使っているアルゴリズムについては、ほとんど何も知られていない。そしてその精度を知る手がかりは、インターネット上に公開されている大量の画像を使ったマッチングのデモのみだ。Clearviewがソーシャルネットワーク上の画像をそのために使っていることに対し、FacebookとYouTubeとTwitterは、利用規約に違反しているとしてそれぞれ停止命令書簡を送っている。

Clearviewの初期の投資家の小さなプールの中には、プライベート・エクイティ企業のKirenaga Partnersと、高名な投資家で、強い影響力のある保守派のPeter Thiel氏がいる。同氏はFacebookの取締役でPalantirの共同創業者だが、後者は法執行機関お気に入りのデータ分析企業だ。

[原文へ]

(翻訳:iwatani、a.k.a. hiwa