タグ: ディープフェイク

みなさんにも経験があるに違いない。なにかの論争であれ単なる好意的な意見交換でも、何らかの議論がネット上で持ち上がると、人は自分の知っていること、あるいは知っていると思っていることをしゃべりまくる。中には、リンクや情報源を示す立派な心がけの人もいる。そういう人は、概して正しい可能性が高い・・・

・・・ただし、リンク先のビデオが数分以上の長いものである場合を除く。そういうときは、ほぼ間違いなく、完全な誤りであり、多くの場合、何も引用しない人よりもはるかにひどく間違っている。

このことに本質的理由はない。ビデオはなんらかの考えを裏付けるうえで優れたメディアといえる。長いビデオは概して優れた裏付けをもたらすはずだ。だったらなぜ、ネットでの引用は常に、例外なく常に、ひどく壊れやすい粘土細工でできているのだろうか？

なお、私が言っているのは、何かしらの客観的真実に関わる議論のことだ。”De gustibus non est disputandum” ［好みの問題に論争はありえない］ということばがあるが、ビデオは主観的意見を裏付けるのに最適な手段であることが多い（”Honest Trailers“（オネスト・トレーラーズ）は私の一番お気に入りのYouTube番組のひとつ）。そして客観的観点を説明する「60秒」のビデオクリップは、1000の言葉よりも価値がある。

しかし、もしリンク先が10分かそれ以上長いビデオで、「全部を見るべし」などの推薦文がついていればなおさら、あなたはすでに非論理的で不条理の世界に入りかけている。

なぜならビデオは「ホット」なメディアであり、大脳の辺縁系に直接働きかけるため、半分の真実やうわべだけの議論を覆い隠すのに異常なほど適しているからだ。人は本能的に、情熱のこもったあるいは確信をもった人や意見をとりあえず信じる傾向がある、 文字で書かれたものよりも。

それともこれは、相関関係であって因果関係ではないのか？長いビデオを最後まで見ようとする人というのは、そもそもすでにその意見を内在化していて、批判的に考えようとしないのではないか？　あるいは、長いビデオから情報を得ることを好む人は、文章リテラシーが低く、批判的思考が停止しているからなのではないか？

あるいは、長いビデオにリンクする人は、全編を通して見る時間も興味も誰にもないことを知っているのだろうか？　彼らは「引用」を、熱心で真剣な研究家であることを偽装する煙幕に使っているだけのか？　多くの場合私にはそれが一番しっくりくる。「この30分のビデオを見よ」系人々の多くは、誠実な動機で行動しているように見える、見当違いというだけだ。

30分ビデオを引用する人が実際には説得力ある意見を持っていない、というのは宇宙に内在する法則ではない。しかし、インターネットの法則ではあるように思える。それで万事うまくいくのかもしれない。というのは、ディープフェイク（偽の画像や映像）が大挙してやってきた時、われわれは、少なくとも批判的思考を持つ人たちは、すぐに疑いを持つようになるから。それまでの間に、ビデオに対する自動的な懐疑的態度が広まることを願いたい。

画像クレジット：Pikrepo under a license.

[原文へ]

（翻訳：Nob Takahashi / facebook ）

イスラエルで成長中のあるスタートアップ企業を想像して欲しい。それは、人工知能をベースにした完全に本物としか思えないディープフェイク動画を制作する企業だ。そのウェブサイトによると、同社の事業は、“企業のコンサルティング”と“政府と政治家のコンサルティング”という2つの部門で成り立っている。さらに、“敵の弱点の発掘と、その拡散を手助けする”とある。

もうひとつ、同社の従業員は「高度な経験を有する逸材であり、イスラエル国防軍諜報部の精鋭部隊および政府の諜報機関の出身者」だと説明されていると想像していただきたい。しかも、彼らのテクノロジーは、これら諜報機関が開発したものをベースにしている。そしてなにより、その取締役会にはモサドやイスラエル総保安庁（Shin Bet）の元長官、さらには元軍高官が参加している。

以上のことを思い描くことができたら、次は民間の情報企業Black Cubeのことを考えて欲しい。さまざまな調査報告が、イスラエルのみならず海外のメディアで報道され、困った実態が明らかになった。それは、この会社が法律に違反しているからではなく、倫理感と社内の道徳規範が欠如しているためだ。

それらの報道によると、Black Cubeは、競合他社が不利になる情報を掘り出したい大企業だけでなく、政敵を抑え込みたい海外の政府とも契約していることがわかった。それは、金融債務から逃れようとする人たちを探し出す政府の仕事を助けることもあるが、犯罪や性的暴力に抗議する女性に嫌がらせをすることもある。ライバル企業に汚名を着せたり、規制当局、監視団体、人権活動家、ジャーナリストに脅しをかけたりもする。

このような企業は、もちろんBlack Cubeだけではない。NSOをご存知だろうか。この会社を代表する製品Pegasusは、どんな携帯電話も携帯スパイ道具に変えてしまう。Glassboxとその製品はご存知か？　この手の企業は枚挙にいとまがなく、そのほとんどは、あまり表に出ない。これらの企業はみな、イスラエルの治安当局から得たスキル、テクノロジー、職業文化に立脚している。

イスラエル国防省や治安当局が、武器や軍事的ノウハウを販売していることは周知の事実だ。しかしここ数年、これにテクノロジーによるひねりが加わった。元治安当局の高官や諜報部員たち、かの有名な8200部隊（イスラエル軍諜報部隊のひとつ）の出身者たちが独立して仕事を始めている。世界や社会をよりよくするための新境地を開拓した企業に就職する者もあれば、欲に溺れ、スパイウェアや攻撃的なサイバー兵器を、批判や反乱を蹴散らしたいアフリカの独裁者に販売する輩もいる。

こうした状況は、イスラエルに限ったことではない。西側諸国の治安当局出身者は、公務員としての職務を終えて引退し、新しい仕事に挑戦しようとするとき、同様のジレンマに直面する。しかしこのスタートアップ・ネイション、イスラエルという国は、大きな部分を、イスラエルの防衛機関で働いていたハイテク部隊出身者に依存している。たしかに、この協力関係は、名誉と名声と利益と仕事をイスラエル経済にもたらしているのだが、そのことが、熟慮すべき2つの問題点を生み出している。

ひとつは、倫理に関連する問題だ。テクノロジーの世界で、今、ひとつだけはっきりしているものがあるとすれば、テクノロジーの開発、普及、実装、利用の際に倫理的配慮を含める必要があるという点だ。イスラエルでは、犯罪防止、自律運転車の改良、医療の進歩に注力するべきだが、Facebookの過激派グループの支援、“ボットファーム”の立ち上げやフェイクニュースの拡散、武器やスパイウェアの販売、プライバシーの侵害、ディープフェイク動画の制作などはするべきではない。

もうひとつの問題は、透明性の欠如だ。治安機関のために働いていた、または現在も継続している個人と企業の共同事業は、厚いカーテンの影で頻繁に行われている。これらの事業体は、イスラエルの情報の自由法に基づく挑戦的な質問をはぐらかしたり、はてはイスラエル特有の政府機関である軍検閲局に掛け合い、逃げてしまうことが多い。

民間企業が開発しながら治安上重要なテクノロジーの販売を政府が許可したことを、また誰に売るのかを、私たちはどうやったら知ることができるのか？　民間企業が派遣したスパイをヨーロッパのどこかの国で逮捕されたとき誰が仲裁に入ったのかを、また、ペルシャ湾岸のある国がイスラエルのハイテク企業のターゲットになったとき、どうやったら知ることができるのか？　国益に貢献する企業のこと、そしてその純益のこと、そしてそもそも誰がそれを決めたのかを、どうやったらわかるのか？　さらに、主要な人材が国から民間のハイテク企業に転職したときに、軍にどのような影響があるのだろうか？　これが、どのテクノロジーに投資するか、それで誰をトレーニングするのか、それで何を購入するのかという国の意志決定過程に、どのような効果をもたらすのだろうか？

テクノロジーは世界をよりよい場所にする。または、うんと悪くする。両方が入り交じった結果もある。アプリ開発者が、私たちのプライバシーに立ち入ろうと、利用規約を故意にわかりづらいものにしているのは公然の秘密だ。しかし、みんながみんなスパイウェアやサイバー攻撃テクノロジーを開発しているわけではない。ソーシャルメディア・プラットフォームが生み出したいくつもの課題については誰もが認識しているが、みんながみんな、それを悪用して誰かを操作したり、“あらし”の軍団で特定の個人を脅迫しているわけではない。

イスラエルと、そのハイテク企業コミュニティは、道徳や倫理に関する問題を軽視すれば、テクノロジーに秀でることでネガティブな結果を招く可能性を真剣に考えなければならない。“スタートアップ・ネイション”ことイスラエルは、この新しい世界を渡り歩くために欠かせない強力な道徳の羅針盤を次の世代に渡すためにも、倫理とテクノロジーの交差点に立って徹底的に議論しなければならない。当面の解決すべき課題は、イスラエルが、または同様の西側の民主主義国が、製品やサービスからその道徳感が伺い知れることを一切考慮しない、利益一辺倒のハイテク企業が成長してしまう現象に、真剣に立ち向かうことだ。

【編集部注】著者のTehilla Shwartz Altshuler（テヒラ・シュワルツ・アルトシュラー）は法学博士。イスラエル民主主義研究所、情報時代の民主主義プロジェクト、シニアフェローおよび主任。

[原文へ]

（翻訳：金井哲夫）

バージニア州は現行のリベンジポルノ法を拡張し、最近増え始めた機械学習を利用してビデオや画像を加工する「ディープフェイク」を対象に加えた。

米国時間7月1日に発効した同法は、本人の許可なく裸の写真やビデオをシェアすることを違法とするもので、本物であるかフェイクであるかを問わない。識別が困難なディープフェイク画像や動画だけでなく、Photoshopなどで加工されたものなどあらゆる加工済み画像や動画も含まれる。

バージニア州は、2014年以来リベンジポルノ法が施行されている。しかし、ソフトウェアの進歩によって普及した加工済みの画像や動画を適切に扱っていなかった。

驚くべき速度で進化する技術に、州や国の立法府はついて行けていない。ディープフェイクによるリベンジポルノの被害者は、現行法が対応していないために拠り所がなかった。そう、ディープフェイクポルノは実在するのだ。DeepNudeというアプリは、世間からの当然の非難を受けて作者が取り下げるまで、ニューラールネットワークを利用して着衣の女性を裸の画像に変換していた。

立法府もさまざまな形で対応している。例えば、米国議会ではDEEPFAKESの責任に関する法案が、Yvette Clarke（イベット・クラーク）下院議員（民主党・ニューヨーク州選出）によって提出された。 同法は、加工済みメディアを本物のビデオや画像として公開、シェアすることを禁止している。

提案されている連邦法は、人物を模倣したフェイクビデオやフェイク画像を広い範囲で規制している。合成メディア・コンテンツを公開する者は、それが加工あるいは生成されたものであることを「削除不可能なウォーターマークおよびテキストによる説明」によって告知する義務を負う。同法によって被害者は、作者を訴訟したり法廷で「自らの名誉を回復する」権利を得る。

英国政府は、悪質で侮辱的なデジタルコンテンツの高まりを受け、合意に基づかない性的画像の作成・公開に特化した法案を検討している。

同法を検討している委員会は、リベンジポルノだけでなく、ディープフェイクポルノや、Bluetoothなどを利用して近くにいる人に性的画像を送りつけるサイバーフラッシングなどの行為も対象にしている。

[原文へ]

（翻訳：Nob Takahashi / facebook ）