中国で先週末クチコミで広まったZaoは、ビデオの顔を他人の顔にリアルに変えてしまうアプリだが、そのポリシーをめぐる騒動のあとWeChatは、同社のメッセージングプラットホームの上でそのアプリの使用を禁じてしまった。
中国で人気最高のデートアプリであるMomoの開発元が作ったZaoは、ユーザーがアップロードするセルフィービデオ（自撮りビデオ）の顔を、人気映画や音楽ビデオなどの中のセレブの顔に変えてしまう。
今は中国でしか利用できないアプリだが、ユーザーがWeChatやそのほかのソーシャルメディアでビデオをシェアすることによってどんどん広まり、同時にディープフェイク技術の悪用に関する懸念から論争も広まった。現在は削除されているZaoの最初の利用規約では「アップロードされたビデオの所有権やその他の権利がすべて永久にZaoにある」とされていたので論争にいっそう火がついた。
In case you haven’t heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of ‘Deepfake’-style AI facial replacement I’ve ever seen。
Here’s an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) pic.twitter.com/1RpnJJ3wgT
— Allan Xia (@AllanXia) September 1, 2019
中国のアプリZaoは金曜日に大爆発した。いわゆるディープフェイク的な、AIによる顔取り替えアプリケーションとしては、これまででいちばん良くできている。これは自分の顔をディカプリオに変えてみた例だが、小さなサムネイル1枚から8秒足らずで作れた。
急速に広まったのと、セルフィーが1つだけあれば使える気安さから、ディープフェイク技術に対する関心が高まり、また、誤った情報やいじめなどの拡散も懸念された。なお、この顔変えアプリは元のセルフィーが複数あったほうが結果がいいそうだ。
今現在、Zaoで作ったビデオはWeChatにアップロードできるが、アプリをダウンロードしたり、リンクをほかのWeChatユーザーに送ろうとすると、「このウェブページは何度も報告されており、セキュリティリスクを含んでいる。安全なオンライン環境を維持するためにこのページへのアクセスをブロックした」というメッセージが表示される。
App Annieによると、Zaoは先週金曜日の8月30日にリリースされたあと、急速に中国の無料iOSアプリのトップになった。9月1日にZaoのWeiboアカウントにポストされた声明によると、「プライバシーに関する皆さまのご心配を十分理解している。この問題は私たちも認識しており、解決方法を考えている。あと少し、お時間をいただきたい」とある。そして今の利用規約では、ユーザーが作ったコンテンツはアプリを改良するためにのみ使用し、削除されたコンテンツはサーバーからも削除される、となっている。
今TechCrunchはZaoにコメントを求めている。
[原文へ]
（翻訳：iwatani、a.k.a. hiwa）