Amazon(アマゾン)の欧州におけるデータ規則遵守を率先して調べる、ルクセンブルクのデータ保護委員会は、Alexa AI音声アシスタントの録音の人間によるレビューについて、プライバシー上の懸念を抱いている。
当局の広報はTechCrunchへの電子メールでこの件についてAmazonと協議していることを認め、「秘密保持義務があり、現段階ではこれ以上踏み込んだコメントはできない」としている。この件についてはロイターが先に報道した。
我々はAmazonにコメントを求めている。
Amazonブランドの一連のEchoスマートスピーカーからサードパーティのデバイス(話す冷蔵庫や奇妙な形のテーブルランプなど)に至るまで、さまざまなハードウェアに搭載されているAmazonのAlexa音声AIは、処理と保存のためにクラウドに音声データを流す録音機能をアクティベートするトリガーワードを拾うために、絶えず聞いている。
しかしながら、トリガーワードによる音声AIのアクティベートは本来意図していなかったものになりがちということが示されてきた。複数人が暮らす家庭で使われているデバイスでは、意図した話しかけだけでなく周辺のあらゆる音声を録音しているリスクがつきまとう。
要するに、AIが意図的なやり取りと、ふと耳にする類のことを区別できないということは、AIは本来立ち聞きするものであることを意味している。だからこそ大きなプライバシー問題となっている。
Amazon、Apple、Googleを含むテック大企業が、異なるアクセントや環境での音声認識のパフォーマンスを向上させるなど、質の確保を目的に音声AIがとらえた音声スニペットの部分を人間を使ってレビューさせていたということが最近明らかになり、こうした懸念は高まりつつある。これは、実際の人間がかなりセンシティブな個人データを聞いてるということを意味する。
今週初め、AmazonはAlexaスマホアプリの設定でユーザーが音声スニペットをオプトアウトできるオプションをひっそりと加えた。音声スニペットはAmazonの品質管理のために人間がマニュアルでレビューするかもしれず、この人間によるレビュープログラムはAlexaユーザーに事前に知らされていなかった。
ポリシーの変更は、特に欧州において音声AIユーザーのプライバシーへの関心の高まりを受けたものだ。
先月、GoogleのAIアシスタントユーザーの何千もの録音がベルギーのメディアにリークされ、そこでは録音の中の一部の人物を特定できた。
ドイツのデータ保護当局はその後、Googleに音声スニペットのマニュアルレビューを止めるよう命じた。
Googleは欧州全域で人間によるレビューを一時停止し、欧州の主要データ監視機関であるアイルランドのDPCはTechCrunchに対し、この問題について「調査中」だと語った。
また別件では、アップルの業務請負人がSiri音声のレビューに関与していると英国の報道機関にプライバシー問題を提起した後、Appleもつい最近Siriスニペットの人間によるレビューをグローバルで一時停止した。
Googleアシスタントスニペットの人間によるレビューを止めるよう介入したハンブルグのデータ保護当局は、欧州の他のプライバシー監視機関にAppleとAmazonの名前を挙げて言語アシスタンスシステム提供者のチェックと、適切な対処の実行を優先するよう促した。
Amazonのケースでは、欧州の監視機関による精密な調査がすぐに行われそうだ。
この記事執筆時点で、音声AIスニペットの人間によるレビューを、一部の地域もしくはグローバルで一時停止していないのはテック大企業3社のうちAmazonだけだ。
報道機関向けの声明文でAmazonは「ユーザーが人間による音声レビューをオプトアウトできるようAlexaの設定を変更した」としている。
我々は顧客のプライバシーを真剣に考えていて、我々のプラクティスと手順を絶えずレビューしている。Alexaに関しては、新Alexa機能を開発するのに使われる音声録音をオプトアウトするという選択肢を顧客にすでに提供している。オプトアウトした顧客の音声録音は、かなり少数のAlexaリクエストの人間によるレビューを含む、監視下におかれた学習ワークフローからも除外される。我々はまた、プラクティスをより透明にするため、顧客向けに情報を今後アップデートする。
[原文へ]
(翻訳:Mizoguchi)