英政府が、オンライン上のコンテンツや言論を規制しようと長きにわたって議論を進めてきた（子どもの）「安全確保」計画を公開した。
Online Safety Bill（オンライン安全法案）制定に向けた動きは、数年にわたって続いていた。以前の計画では、子どもがオンライン上の不適切なコンテンツにさらされることを防ぐ目的もあり、英国内でオンラインのポルノにアクセスする際の年齢確認を義務化する試みがあったが、こちらは非現実的として広く批判され、ひっそりと取り下げられた。
当時の英政府は、オンライン上のさまざまな危険を規制する包括的な法案の策定に注力すると述べた。今回、それが達成された様子だ。
145ページにわたるオンライン安全法案は、123枚の補足資料と146枚のインパクト評価とともに、gov.uk（英政府の公式ウェブサイト）のこちらのウェブサイトにて公開されている。
本草案では、ユーザーがオンライン上で違法および / または有害なコンテンツにさらされる危険を防ぐため、ユーザーが生成したコンテンツの管理義務をデジタルサービスプロバイダーに課している。
英政府はこの計画を世界においても「画期的」なものと位置付け「テクノロジー企業が新時代で負う義務の先駆けであり、オンライン界に公平さと責任をもたらすもの」と主張している。
批評家は、プラットフォームによる過度な検閲を促すことで表現の自由が脅かされるだけでなく、提出法案がデジタル企業にとって法務および業務上大きな負担となるため、技術革新の減退につながる可能性があると警鐘を鳴らしている。
議論が本格化するのは、これからだ。
本法案は今後、下院議員による合同委員会で徹底的に調べられたのち、年内には最終版が正式に議会に提出される。
本法案が施行されるまでどのくらいの時間がかかるのかはまだ不透明だが、英政府は議会の過半数を獲得しているため、世間で大騒動が起きたり与党内で多数が反対に回ったりしない限り、オンライン安全法案は確実に制定の道をたどるだろう。
デジタル相のOliver Dowden（オリバー・ダウデン）氏は声明でこう述べている。「本日発表した画期的な法案は、英国が世界を率いるリーダーであることを示すものだ。この法案はテクノロジー企業が新時代で負う義務の先駆けであり、オンライン界に公平さと責任をもたらすものである」。
「私たちは、我々の権利を保護する新たな措置を通じてインターネット上で子どもたちを守り、ソーシャルメディアで見られる人種差別的発言を厳しく取り締まることで、真に民主的なデジタル時代を切り開いていく」。
英政府がオンライン安全法案の草案を作成する上で要した期間の長さは、法によって「インターネットを規制」する試みがいかに困難かという点を裏づけている。
DCMS（デジタル・文化・メディア・スポーツ省）の広報担当者は、以前「インターネットを安全にしようとする政府の奮闘」についてうっかり漏らしたことがある。英国のオンライン安全法案をめぐる勝者と敗者が誰になるのか、現在はまだ疑問だ。
安全性か、民主主義か
本計画に関するプレスリリースにて、デジタル・文化・メディア・スポーツ省はこの「歴史的な法令」が「子どもたちの安全を守り、人種差別を撤廃し、オンライン上の民主主義を保護する」と主張する。
とはいえ、壮大な目標がいくつも並んでいることからわかるように、関連する分野の範囲はとても広いだ。規定の間で矛盾が生まれ、法令の一貫性が失われてしまえば、失敗のリスクも非常に高い。デジタル企業の業務にも、必要なコンテンツにアクセスしようとするインターネットユーザーにとっても足かせとなってしまう。
本法案は広範囲に適用される模様だ。大手のテクノロジー企業やソーシャルメディアサイトにとどまらず、ユーザーが生成するコンテンツをホストしたり、単にオンラインで人と対話するサービスを提供したりするさまざまなウェブサイト、アプリ、サービスが対象となる。
サービスの領域では、違法コンテンツおよび（大手サービスの場合は）有害なコンテンツを削除および / または制限する法的義務が課せられ、ユーザーを保護する義務を怠った場合は多額の罰金が命じられる可能性がある。さらには、子どもの性的搾取に該当するコンテンツについては、警察に報告する義務も課せられる。
放送メディアと通信分野の取り締まりを担当する英国の通信監視機関Ofcom（オフコム）は、本計画にて英国内のインターネットコンテンツの監視機関としての役割も担う予定だ。
オフコムはユーザー保護の新しい義務を怠った企業に対し、最大1800万ポンド（約28億円）または世界売上高の10％（のどちらか高額な方）を罰金として科す権限を持つ。
この監視機関は、サイトへのアクセスをブロックする権限も有するため、プラットフォーム全体を検閲する可能性も潜んでいる。
厳格なインターネット規制の制定を支持する活動家の一部は、役員階級の目を有害コンテンツ防止策の遵守にしっかりと向けるため、CEOに対する刑事制裁も法案に含めるよう英政府に圧力をかけている。大臣らはここまで厳格な措置の制定は予定していないものの、デジタル・文化・メディア・スポーツ省は、将来的には刑事犯罪での役員の起訴も検討するとし、こう補足している。「テクノロジー企業が安全性向上のための取り組みを強化しない場合、この措置を追って導入する可能性もある」。
インターネット上のプラットフォームに対する規制強化については、英国内の世論は大きく賛成に傾いている一方で、問題となるのは具体的な計画の詳細だ。
本計画は英政府が私有企業に言論の取り締まりをさせることになるため、人権活動家や技術政策の専門家らは、当初から本計画がオンライン上の表現を委縮させるのではないかと警告を重ねてきた。
法律の専門家も同様に、この枠組みの非現実性について警鐘を鳴らしている。「有害」といった概念、さらには新たに「民主的に重要」と位置づけられるコンテンツ（英政府は特定のプラットフォームに対し、これを保護する特別な義務を課そうとしている）の定義が困難なためだ。
わかりやすいリスクとしては、デジタル企業が負う膨大な法的責任の不透明さが挙げられる。英国内のスタートアップ企業の革新に加え、サービス提供状況は大きな影響を受けることとなる。
'of ordinary sensibilities ' – then qualified later with group and other characteristics. dissemination, numbers etc. 'Indirect' harm particularly vague. Brining in some new legal standards here, surely…(4/n)
— Dr Edina Harbinja (@EdinaRl) May 12, 2021
On the #OnlineSafetyBill, I don’t see anything to suggest they’ve addressed the underlying challenge: making judgment calls over difficult issues when context matters, tone matters, and when the scale is massive. It looks like a massive sledgehammer that’s going to miss the nut.
— Paul Bernal (@PaulbernalUK) May 12, 2021
2019年のホワイトペーパーで公開された法案の前身には、表題に「有害」という単語が使われていた。その後、この単語はより穏やかな「安全」に置き換えられたわけだが、法的な面での不透明さは解消されていない。
法案の主眼は依然として「有害」とされる漠然とした何かを抑制することに向けられている。オンライン上のアクティビティにさまざまな形で関連または関係しているものが対象で、なかには違法なコンテンツもあれば単に不快なコンテンツも含まれる（対象の大半は、Instagramなどのプラットフォーム上で自殺に関するコンテンツが子どもにさらされた事例など、注目を浴びたメディア報道に基づいている）。
具体的な内容としては、いじめや暴言（オンライン荒らし）から、違法コンテンツ（子どもの性的搾取）の流布、単に子どもが見るには不適切なコンテンツ（合法ポルノ）まで多岐に及ぶ。
最新の草案を見ると、ある特定のオンライン詐欺（恋愛詐欺）もまた、英政府が法令で規制しようとしている危険の1つのようだ。
包括的な「有害」コンテンツの枠組みを作る英国のアプローチは、欧州連合のDigital Service Act（デジタルサービス法）とは対照的だ。デジタルサービス法は欧州連合のデジタル規則を改訂する目的でオンライン安全法案と並行して策定が進められており、こちらは違法コンテンツに注意が集中している。内容としては、連合内で違法コンテンツの報告手続きを統一すること、そしてeコマース市場で危険な商品が販売されているリスクに対処すべく、顧客の本人確認を必須とすることだ。
英国の法案がオンライン上の表現に影響を及ぼしかねないとする批判に対し、英政府は本日、人々がオンラインで自由に表現する権利を強化する措置を追加で講じると発表した。
また、この措置は英国におけるジャーナリズムの保護に加え、政治に関する民主的な議論を保護する役割も果たすという。
しかし、こうした条項が本来の法案と相反しているように見えることから、このアプローチにはすでに疑問の声が上がっている。
例えば、報道コンテンツの取り扱い方をめぐるデジタル・文化・メディア・スポーツ省の議論によると、ニュース発行社の公式ウェブサイトは法令の対象にはならない（サイトに投稿される読者のコメントも対象外）こと、また対象サービスにて共有された「一般に認知されているニュース発行社」の記事は、報道以外のコンテンツに適用される法的義務からは除外されることがわかっている。
プラットフォームに、報道コンテンツへのアクセスを保護する法的義務があるのは事実だ。（「つまり、『デジタルプラットフォーム』はコンテンツのモデレーションを実施する際にジャーナリズムの重要性を考慮しなければならないということだ。削除されたコンテンツについてはジャーナリストの控訴手続きを迅速に行い、報道コンテンツを恣意的に削除した場合はオフコムから責任を問われることとなる」とデジタル・文化・メディア・スポーツ省は述べている）
しかし一方で、英政府は「市民ジャーナリストのコンテンツはプロのジャーナリストによるコンテンツと同様の保護を受ける」とも述べているのだ。とすると「一般に認知されている」ニュース発行者（対象外）と市民ジャーナリスト（こちらも対象外）、そして単にインターネット上にブログ記事やコンテンツを投稿しているおじさん（おそらく対象？）のそれぞれの線引きは具体的にどのように行われるのか、見方は人によってさまざまだろう。
Agog to find out if I will qualify as a citizen journalist. Is a blog and an over-active Twitter account enough, I wonder?
— Graham Smith (@cyberleagle) May 12, 2021
政治的発言を保護する取り組みは、デジタルサービスにおけるコンテンツモデレーションを複雑化することにもなる。例えば、人種差別的な意見を持つ過激派集団は、自身のヘイトスピーチや差別発言を「政治的意見」としてごまかすこともできるからだ（人種差別主義で有名な活動家も自らを「ジャーナリスト」と名乗るかもしれない）。
デジタル・文化・メディア・スポーツ省の声明によると、企業は「特定の政治的意見に対する差別をしてはならず、所属政党に関わらず、多様な政治的意見を平等に保護しなければならない」という。
「こうしたコンテンツを保護する政策は明確かつ現実的な規定と条件によって定める必要があり、企業がこの政策に従わない場合はオフコムによる強制措置を受けることになる」声明はさらに続く。「コンテンツのモデレーションを行う際は、企業は該当コンテンツが共有されている政治的背景を考慮する他、民主的に重要な場合はそれを高度に保護する必要がある」。
プラットフォームはこうした相いれない条件をすべてバランスよく遵守する責任を負うことになるというわけだ。今後、オフコムが表現の自由を尊重する形でコンテンツモデレーションを行うための行動規範が作成される予定だが、企業が何かミスをした場合はいつでもオフコムから多額の罰金を科せられる危険がある。
興味深いことに、英政府はFacebook（フェイスブック）が考案した「監督委員会」モデルを好意的に受け止めているようだ。この監督委員会では、委員らが「複雑な」コンテンツモデレーションの事例について判断を下す他、発言のニュアンスの取り違いやコンテンツの不必要な削除を招く恐れがあるとして、AIフィルターの過度な使用を抑制している（以前、テロ関連のコンテンツの削除を高速化する目的で、英政府がプラットフォームに対してAIツールの導入を強く求めていたことを踏まえると、非常に興味深い動きといえる）。
「本法案は英国に住む人々がオンライン上で自由に表現し、多元的かつ率直な議論に参加する権利を徹底的に保護する」デジタル・文化・メディア・スポーツ省はこう続けている。「対象に含まれる企業はすべて、自らの責任を果たすうえで表現の自由の保護を考慮に入れ、必要な措置を取らなければならない。これらの対策はオフコムが作成する行動規範で定められるものの、背景情報が重要となる複雑な事例については、人間の監視官を含める必要がある場合も想定される」。
「企業のサービスを利用する人には、正当な理由なくコンテンツが削除された場合に即座に控訴手続きを行う手段を用意する他、不当にコンテンツが削除された場合は、企業は該当コンテンツを再公開しなければならない。ユーザーはまた、オフコムに控訴することができ、こうした告訴はオフコムのホライズン・スキャニング、調査、および強制措置の大部分を形成する」声明はさらに続く。
「カテゴリー1のサービス『最大かつ最も一般的なサービス』には、追加の義務が課せられる。これらのサービスは表現の自由に与える影響について最新の評価を実施してそれを公開し、マイナスの影響がある場合はそれを最小限に抑える対策を行動で示さなければならない。これらの措置はオンライン企業の対策が限定的になるリスクを取り除く他、オンライン安全性の義務を果たすためにコンテンツを過度に削除する事態を防ぐものである。後者の例としては、AIのモデレーション技術が風刺などの無害なコンテンツを誤って有害と判断してしまう場合などが挙げられる」。
本計画においてわかりにくい別の要素は、法案にいわゆる「ユーザーが生成する詐欺」（偽の投資機会についてのソーシャルメディアでの投稿や、デーティングアプリでの恋愛詐欺など）への対応策が含まれていながら、広告、メール、偽ウェブサイトなどを使って行われるオンライン上の詐欺行為は対象外だという点だ。デジタル・文化・メディア・スポーツ省によると「本法案はユーザーが生成するコンテンツにおける危険に焦点を当てている」。
とはいえ、インターネットユーザーが簡単かつ低コストでオンライン広告を作成し、掲載できる（基本的に、Facebookをはじめとするプラットフォームは料金を払う人なら誰にでも広告ターゲティングツールを提供している）のなら、広告による詐欺を規制から除外する理由はあるのだろうか？
どうやら、ここでの線引きは無意味なようだ。数ドル（数百円）払って虚偽の情報を広めようとする詐欺行為は、無料のFacebookページで秘密の投資アドバイスをうたう投稿をする詐欺行為と比べて何ら変わりはない。
つまり、線引きがランダムでずさんな場合、規則の一貫性やわかりやすさが失われ、抜け穴が存在しやすくなるリスクが生まれてしまうのだ。
並行して、英政府は特に大手テクノロジー企業を規制するため、競争を促す壮大な事前規制制度の考案を進めている。大手プラットフォームの規制制度と、有害なデジタルコンテンツを広範囲で規制するオンライン安全法案の2つの枠組みがある中、双方で義務の矛盾や重複が生まれないようにする難題は、まだ前途に立ちはだかっている。
関連記事
・英国は大手テック企業を規制するにあたり画一的なアプローチを採用しない方針
・2021年提出予定の英国オンライン危害法案の注意義務違反への罰金は年間売上高10％
カテゴリー：パブリック / ダイバーシティ
タグ：イギリス、子ども、デジタル・文化・メディア・スポーツ省、SNS
画像クレジット：Aping Vision / STS / Getty Images
［原文へ］
（文：Natasha Lomas、翻訳：Dragonfly）
