子ども / 子ども向け（用語）

アップルがiCloud上の児童虐待画像を検出する新技術「NeuralHash」導入へ

Apple（アップル）は、既知の児童性的虐待素材を検知し、ユーザープライバシーが守られる方法で警察機関に通報する技術を2021年中に展開する。

Appleは、児童性的虐待素材（CSAM）の検出は同社のサービスを使用する子どもたちをオンライン危害から守ることを目的とした新機能の一環であるとTechCrunchに語った。子どものiMessage（アイ・メッセージ）アカウントを通じて送受信される性的に露骨な画像をブロックするフィルターもその1つだ。他にもユーザーがSiri（シリ）や検索でCSAMに関連したことばを検索しようとした時にブロックする機能もある。

Dropbox（ドロップボックス）、Google（グーグル）、Microsoft（マイクロソフト）をはじめとするほとんどのクラウドサービスは、サービスの利用規約に違反したりCSAMなどの違法コンテンツを検出するためにユーザーのファイルを監視している。しかしAppleは長年、クラウド上のユーザー・ファイルの監視に抵抗しており、データがAppleのiCloud（アイクラウド）サーバーに到達する前に暗号化するオプションをユーザーに提供している。

Appleは自社の新しいCSAM検出技術であるNeuralHash（ニューラルハッシュ）について、クラウド上ではなくユーザーの端末上で動作し、ユーザーが既知の児童虐待画像をiCloudにアップロードしたことを検出できるが、一定のしきい値を超え一連のチェックでコンテンツが検証されるまで画像は復号化されないと説明した。

Appleの取り組みのニュースは、米国時間8月4日、ジョンズ・ホプキンス大学の暗号学専門のMatthew Green（マシュー・グリーン）教授が新技術の存在を一連のツイートで公開したことで明らかになった。このニュースには、一部のセキュリティ専門家とプライバシー擁護者だけでなく、ほとんどの他社にないAppleのセキュリティとプライバシーへのアプローチに馴染んでいるユーザーも抵抗を示した

Appleは不安を鎮めるべく、暗号化のさまざまな暗号化の複数レイヤーにプライバシー対策を施し、Appleによる最終的な手動レビュー審査に至るまでに複数の段階が必要になるような方法で実装している。

NeuralHashは、1、2カ月後に公開が予定されているiOS 15およびmacOS Montereyに搭載される予定で、ユーザーのiPhoneまたはMac上にある写真を文字と数字の独特な並び（ハッシュと呼ばれる）に変換する。画像がわずかに変更されるとハッシュが変更されてマッチングが阻止される。Appleによると、NeuralHashは同一あるいは外観の似た画像（たとえば切り抜きや編集を施された画像）から同じハッシュが作られるように動作する。

画像がiCloud写真にアップロードされる前にハッシュは、全米行方不明・被搾取児童センター（NCMEC）などの児童保護組織から提供された児童虐待画像から得たの既知のハッシュのデータベースと端末上で比較される。NeuralHashはPrivate Set Intersection（プライベート・セット・インターセクション）と呼ばれる暗号化技術を用いて、画像の内容を明かすこともユーザーに警告することもなくハッシュの一致を検出する。

結果はAppleにアップロードされるが、そのままでは内容を見ることはできない。AppleはThreshold Secret Sharing（しきい値秘密分散法）と呼ばれる別の暗号化原理を用いることで、ユーザーのiCloud写真中の既知の児童虐待画像が一定のしきい値を越えた場合にのみコンテンツを解読できる。しきい値が何であるかについてAppleは明らかにしていないが、こんな例を示した。ある秘密が1000ピースに分割され、しきい値が児童虐待画像10枚だったとすると、その秘密は10枚の画像のどの1つからでも再構築できる。

これは、Appleが一致した画像を解読し、手動でコンテンツを検証することで、ユーザーのアカウントを停止し、画像をNCMECに報告し、その後その画像が警察機関に渡る可能性があるということを意味している。Appleはこのプロセスについて、クラウド上のファイルを監視するよりもプライバシーに配慮している、なぜならNeuralHashが検出するのは既知の児童虐待画像のみであり新しい画像ではないからだと述べている。Appleは、1兆分の1の確率で誤検出の可能性があるが、アカウントが誤って停止された場合に異議申し立てをする手続きがあるという。

AppleはNeuralHashの仕組みに関する技術情報を自社ウェブサイトで公開している。文書は暗号学専門家の査読を受けており、児童保護団体からも称賛されている。

しかし、児童性的虐待と戦うさまざまな取り組みが広い支持を得ている一方で、アルゴリズムに委ねることに多くの人々が違和感を示す監視の要素がそこにはある。また、セキュリティ専門家の間には、Appleがこのテクノロジーをユーザーに適用する前にもっと公開議論をすべきだと指摘する声もある。

大きな疑問は、なぜもっと早くではなく、今なのかだ。Appleは、同社のプライバシーが保護されたCSAM検出技術はこれまで存在しなかったと語った。一方でAppleのような会社は、ユーザーデータを保護している暗号化技術を弱体化するか裏口を提供することで警察機関の凶悪犯罪捜査を可能にすべし、という米国政府や同盟国からの大きな圧力にも直面している。

テック巨人らたちは自社システムの裏口を提供することを拒否し続けてきたが、政府によるアクセスをさらに遮断しようとする取り組みに対する抵抗を受けている。iCloudに保存されているデータはAppleがアクセスできない形で暗号化されているが、Reuters（ロイター）の2020年の記事によると、AppleはiPhoneのiCloudへのフルバックアップを暗号化する計画を、捜査を阻害するとFBIから抗議されて中止したという。

Appleの新しいCSAM検出ツールが公の場で議論されていない点についても、このテクノロジーが児童虐待画像を大量に送りつけて被害者のアカウントを停止に追い込むなど悪用の恐れがあるという懸念を呼んだ。しかしAppleは、手動レビューによって起こりうる悪用の証拠を検査するとして問題を軽視している。

Appleは、NeuralHashはまず米国で展開すると語ったが、世界的な展開の可能性や時期は明らかにしていない。最近まで、Facebook（フェイスブック）をはじめとする企業は、EU全体で児童虐待検出ツールが強制的に停止させられていた。当地でプライベートメッセージの自動監視が禁止されたためだった。Appleは新機能について、iCloud写真は使う義務がないので厳密には選択的であるが、使用するなら必須であると説明した。つまるところ、あなたの端末はあなたの所有物だが、Appleのクラウドはそうではない、ということだ。

カテゴリー：ソフトウェア

タグ：Apple、iCloud、子ども、プライバシー、個人情報、児童ポルノ対策、iOS 15、macOS Monterey、警察

画像クレジット：Bryce Durbin / TechCrunch / Getty Images

［原文へ］

（文：Zack Whittaker、翻訳：Nob Takahashi / facebook ）

コロナ禍でも4〜12歳の子どもたちに少人数で質の高いオンライン教育を提供するbina、孫泰蔵氏も投資

新型コロナウイルス感染流行の影響で学校が閉鎖され、初等教育への深刻な被害が懸念される中、この分野に続々とEdTech（教育テクノロジー）企業が参入してくるのは当然と言える。しかし、それは同時に、初等教育の惨状を浮き彫りにするものでもある。World Bank（世界銀行）によると、全世界で約4000万人の教師が教育現場から離れているという。15億人の初等教育課程にある子どもたちのうち、質の高い教育を受けられる子どもはごくわずかであり、世界には約5800万人の初等教育を受けられない子どもたちがいて、そのほとんどが女児である。

だから、このような幼少期にオンラインで教育を受けられる機会を広げ、状況を変えることは非常に大きな意味がある。なぜなら、オンラインではクラスの人数を減らし、授業の質を向上させることが可能だからだ。

これが、自ら「デジタル初等教育エコシステム」を謳うbina（ビナ）という企業の元になる考え方だ。ドイツのベルリンを拠点とする同社はこの度、4歳から12歳までの児童にオンライン教育を行うことを目的に、140万ドル（約1億5300万円）の資金を調達した。

今回の資金調達ラウンドは、日本の億万長者の1人である孫泰蔵氏が主導した。他の投資家やアドバイザーには、分散型プロトコルのPolkadot（ポルカドット）を開発したParity Technologies（パリティ・テクノロジーズ）の創業者Jutta Steiner（ユッタ・シュタイナー）氏や、英国の元教育大臣のLord Jim Knight（ジム・ナイト卿）などが名を連ねている。

Binaの特長は、6人という非常に少人数のオンラインクラスの規模（経済協力開発機構のデータによる世界平均の3分の1）であることだ。

さらに同社は、国際標準をカバーする「適応性の高い学習方針」、8年以上のデジタル教育経験を持つ教師、データに基づいた教育的アプローチの決定などを誇る。

binaの創業者でCEOを務めるNoam Gerstein（ノーム・ガーシュタイン）氏は次のように述べている。「私は世界中の生徒、教師、保護者に長年インタビューしてきましたが、新しいシステムのデザインが必要であることは明らかです。当社の創業家とともに、私たちはすべての子どもが質の高い教育を受けることができ、教育者のスキルが評価され、それを継続的に発達させることができ、親が仕事と家庭生活のどちらかを選ぶ必要のない世界を築いていきます」。

また、ガーシュタイン氏によれば、同社は学校とともに成長する児童に、会社の株式（RSU）を付与しているという。現在は中央ヨーロッパ時間の英語を話す児童向けに授業を提供しているbina Schoolは、政府、NGO、学校組織向けのSaaS製品を計画している。

「私たちは現在、Outschool（アウトスクール）、Pearson Online Academy（ピアソン・オンライン・アカデミー）、Primer（プライマー）、Prisma（プリズマ）といった企業と競合しています」とガーシュタイン氏は電話で話してくれた。「これらの大手企業とは2020年からの第1段階で競合しています。しかし、私たちは戦略を2つの段階に分けて構築しています。第1段階は実際にスクールを構築し、それを『実験的』スクールとして運営すること。そして第2段階は、私たちが『サービスとしてのbina』と呼んでいるもので、SaaS、つまり『サービスとしてのスクール』です。これはNGOや政府と協力して、授業システムや教師の認定、トレーニング、ライセンス供与を行うというものです。この2つ目の部分では、私たちは実際に大規模な学校認可システムと競合するわけです」。

カテゴリー：EdTech

タグ：bina、ベルリン、子ども、教育、資金調達

画像クレジット：bina team

［原文へ］

（文：Mike Butcher、翻訳：Hirokazu Kusakabe）

Instagramが10代ユーザーのアカウントをデフォルトで非公開に、広告や望まない大人からの接触を制限

Instagram（インスタグラム）は米国時間7月27日朝、若年層のアクセス拡大に向けて、同社のアプリを10代のオンラインユーザーにとってより安全な場所にするため、いくつかのアップデートを発表した。同社によると、ユーザーが16歳未満（EUを含む一部の地域では18歳未満）の場合、サインアップの際、デフォルトで非公開アカウントに設定される。

また、16歳未満の既存ユーザーがまだアカウントを非公開に切り替えていない場合は、非公開に設定するように促す。加えて同社は、他の10代のユーザーからブロックされたり報告されたりした大人からの迷惑なコンタクトを抑制することを目的とした新しいテクノロジーを導入するとともに、広告主が10代のユーザーにリーチする方法も変更する。

若年層のユーザーにとって最も注目すべき変更は、非公開アカウントへの移行だ。

これまで、ユーザーがInstagramの新規アカウントを登録する際には、公開アカウントか非公開アカウントのどちらかを選択するよう求められていた。しかし、Instagramによる調査の結果、若年層ユーザーの10人中8人が登録時に「非公開」を選択していたことが判明したため、今後は16歳未満のユーザーに対しては「非公開」をデフォルトにするという。

画像クレジット：Instagram

ただし、16歳未満のユーザーに「非公開」であり続けることを強制するものではない。登録時を含め、いつでも公開アカウントに切り替えることができる。既存の公開アカウントを持つユーザーには、非公開にすることのメリットや変更方法がアプリから通知されるが、Instagramは、非公開への変更を強制するものではないとしている。

2021年1月、ライバルプラットフォームであるTikTok（ティックトック）も18歳未満のユーザーの非公開設定をデフォルトとする更新を発表しており、Instagramの今回の変更は、その動きに追従するものだ。TikTokの場合は、13歳から15歳までのユーザーのアカウントをデフォルトで非公開に変更しただけでなく、コメント、動画のダウンロード、デュエットやスティッチなどTikTokの他の機能を含め、10代のユーザーのアプリ利用方法に関連するコントロールも強化した。

Instagramは、10代のユーザーにデフォルトのアカウントタイプを提案するに留まり、その他の設定を制限するまでには至っていないが、未成年者が使用するアプリに大人が参加することで生じる問題に対処するための措置をとっている。

同社は、新しいテクノロジーによって、最近10代のユーザーからブロックされる、または迷惑行為が報告されるなど「不審な行動」を取るアカウントを特定するという。これは、Instagramが不審な行動を特定するために使用する数多くのシグナルの1つに過ぎないが、同社は、このシステムをいたずらに利用されたくないため、他のシグナルについては公表しないとしている。

そして「不審」と判断された場合、Instagramはそういった大人のアカウントが若年層のアカウントとやり取りできないように制限する。

まず、Instagramは、そういった不審な大人のアカウントの「発見」「リール」、および「おすすめ」機能に対して、若年層のアカウントを表示しないという措置をとった。また、たとえ大人が検索で若年層のアカウントを見つけても、そのアカウントをフォローすることはできない。そして、若年層のユーザーが他のユーザーの投稿に付けたコメントを見たり、若年層のユーザーの投稿に自分のコメントを残したりすることもできない。

（Instagramによると、10代のユーザーが親の目を逃れるために自分の親を報告したりブロックしたりしても、制限をかけるアルゴリズムは複数のシグナルを組み合わせて使用するため、そういった目論見は上手くいかないという）。

この新しい制限は、2021年初めにInstagramが導入した、10代のユーザーにフォローされていない大人がそのユーザーにコンタクトを取ることを制限するテクノロジーに基づいている。これにより、10代のユーザーは、家族や家族ぐるみの友人との交流を保ちつつ、知らない大人からの不要なコンタクトを制限することが可能になった。

TikTokやYouTube（ユーチューブ）などでは、若いユーザーら（多くの場合、大人の男性から性的なからかいや嫌がらせの対象となる少女たち）の動画に、不適切なコメントが残されることが多いが、問題のある大人を10代の若者のコンテンツから切り離すという今回のInstagramの措置は、他のソーシャルネットワークでの対策よりもさらに進んだものだ。YouTubeのコメント欄にはかつて小児性愛者のグループが集まっていたこともあり、YouTubeは未成年の子どもが登場する動画へのコメントを全面的に無効にした。

Instagramでは、コメント欄を全面的にブロックするのではなく、悪質なユーザーを特定し、未成年者が作成したコンテンツを見つけにくくすることで、悪質なユーザーを排除している。

今後数週間のうちに実施されるもう1つの大きな変更は、18歳未満（一部の国ではそれ以上）の若年層をターゲットとした広告の掲載を希望する広告主に影響がある。

画像クレジット：Instagram

10代のユーザーの興味、あるいは他のアプリやウェブサイトでの閲覧に基づく情報など、広告主は、これまで利用可能だったターゲティングオプションが利用できなくなり、代わりに、年齢、性別、位置情報に基づいたターゲティングのみが可能となる。これは、Instagram、Facebook（フェイスブック）、Messenger（メッセンジャー）で実施される。

同社によると、若年層は、インタレストベース広告のオプトアウトに関連する意思決定を適切に行えない可能性があるという、若年層支援団体からの提言を考慮し、今回の制限に至ったという。

しかし実際には、Facebookの10億ドル（約1100億円）規模のインタレストベース広告ネットワークは、規制当局や競合他社からの圧力を受けており、同社は、事業の潜在的な変化が間近に迫っていることを想定して、広告以外にもeコマースなど、収益の多様化に取り組んできた。

例えば、Apple（アップル）は最近のiOSアップデートにおいて、Facebookがサードパーティ製アプリからデータを収集することを制限するために、ユーザーがデータトラッキングをオプトアウトできる機能を追加した。すると、ほとんどのユーザーがトラッキングに対して「拒否」を選択したという。一方、若年層支援団体などは、現行の児童オンラインプライバシー保護法などですでに保護されている13歳未満の子どもだけでなく、テック企業は18歳未満の子どもに対してもパーソナライズド広告をオフにすべきだと主張し、同業界に対する圧力を強めている。

その一方で、Instagramは、13歳未満の子どもたちにアプリを公開することを検討してきた。今回の一連の変更によって、若年層ユーザーの安全に配慮した上で事業を拡大していることを規制当局に示すことができるのではないか、と同社は期待している。

この点についてInstagramは「ユースアドバイザー」グループを拡大し、Stiftung Digitale Chancen（シュティフトゥン・デジテイル・チャンセン）のJutta Croll（ジュッタ・クロール）氏、Sangath（サンガス）およびIt’s Okay To Talk（イッツ・オーケー・トゥ・トーク）のPattie Gonsalves（パティ・ゴンサルベス）氏、ParentZone UK（ペアレントゾーン・ユーケー）のVicki Shotbolt（ヴィッキー・ショットボルト）氏、AAKOMA Project（エイコマ・プロジェクト）のAlfiee M. Breland-Noble（アルフィー・エム・ブレランド・ノーブル）氏、ノースイースタン大学のRachel Rodgers（レイチェル・ロジャース）氏、コーネル大学のJanis Whitlock（ジャニス・ホイットロック）氏、Future of Privacy Forum（フューチャー・オブ・プライバシー・フォーラム）のAmelia Vance（アメリア・ヴァンス）氏などの専門家を新たに加えたと発表した。

また、Family Online Safety Institute（FOSI、ファミリー・オンライン・セーフティ研究所）、Digital Wellness Lab（デジタル・ウェルネス・ラボ）、MediaSmarts（メディアスマート）、Project Rockit（プロジェクト・ロックイット）、Cyberbullying Research Center（サイバーブリング・リサーチ・センター）などの団体も参加している。

同社はまた、年齢認証や親の同意の基準についても議員らと協力しており、今後数カ月のうちに詳細を発表する予定だ。Instagramは今回の発表に関連して、ユーザーの年齢を推定するAIテクノロジーを使用していると述べている。例えば、あるユーザーが別のユーザーに対して「誕生日おめでとう」や「15歳、おめでとう」と送ったメッセージをシグナルとして検出し、それによってユーザーの年齢を絞り込むというものだ。このテクノロジーは、今回発表された新たな制限を含め、一部の大人が若年層のアカウントにコンタクトすることを阻止するためにすでに使用されている。

カテゴリー：ネットサービス

タグ：Instagram、10代、子ども、広告、SNS

画像クレジット： Instagram

［原文へ］

（文：Sarah Perez、翻訳：Dragonfly）

ユーススポーツ組織運営を助ける「オペレーションシステム」を目指すLeagueApps

ユーススポーツは、家族の絆を深め、子どもたちが自信とスキルを身につけることに貢献する。地域社会になくてはならないものだ。

しかし、ユーススポーツのリーグを起ち上げ、育て、維持するためには、どれだけの仕事が必要であるかということを、考えている人は少ない。それは大変なことだ。米国時間7月19日、ユーススポーツ組織の運営システムを手がけるLeagueApps（リーグアップス）は、シリーズB投資ラウンドによる1500万ドル（約16億5000万円）の資金調達を発表した。

従来から出資していたContour Venture Partners（コンツアー・ベンチャー・パートナーズ）が主導した今回のラウンドには、Major League Baseball（メジャー・リーグ・ベースボール）と、Los Angeles Dodgers（ロサンゼルス・ドジャース）のオーナーシップグループの個人投資部門であるElysian Park Ventures（エリュシオン・パーク・ベンチャーズ）も参加。2010年の設立以来、LeagueAppsの資金調達総額は3500万ドル（約38億5000万円）に達した。

また、オリンピックの金メダリストであるJulie Foudy（ジュリー・フーディ）氏とSwin Cash（スウィン・キャッシュ）氏、NFLのベテラン選手であるDerrick Dockery（デリック・ドッカリー）氏、Spurs Sports & Entertainment（スパーズ・スポーツ＆エンターテインメント）の会長であるPeter J. Holt（ピーター・J・ホルト）氏、PRO Sports Assembly（プロ・スポーツ・アッセンブリー）の創業者兼社長であるLaura Dixon（ローラ・ディクソン）、投資管理会社のHamilton Lane（ハミルトン・レーン）など、多数の新規および既存の支援者が今回のラウンドに資金を提供した。

ニューヨークを拠点とするLeagueAppsは、ユーススポーツ団体の円滑な組織化を支援することに取り組んでいる。同社が登録・管理ソフトウェアは、スポーツ団体のリーダーたちが、リーグ運営のプロセスをより円滑に管理し、より効果的にコミュニケーションをとり、より効率的に支払いを徴収できるようにするために開発されたものだ。

「彼らのプログラムを推進させるために必要なすべてのツールを、我々は構築しました」と、LeagueAppsのCEOであり、共同設立者であるBrian Litvack（ブライアン・リトバック）氏はいう。それらのツールによって、ユーススポーツ団体のリーダーは、ウェブサイトの構築、登録の受付、コーチや保護者へのメッセージの送信、運営組織や協会との情報共有などの手段を手に入れることができる。

「ローカルスポーツのオーガナイザーは、スポーツ開催を実現するために、地域コミュニティの中で重要な役割を担っています」と、リトバック氏は述べている。

画像クレジット：LeagueApps

LeagueAppsはソフトウェア自体に価格や使用料を課すのではなく、前払いで少額の料金を徴収し、その後はプラットフォームを介して行われた取引のパーセンテージに応じて料金を徴収する。つまり、ユーザーにお金が入らなければ、同社もお金を得ることができないのだ。

そのため、2020年に新型コロナウイルス感染流行が発生した際には、他の企業と同様に同社も少々打撃を受けた。しかし、それ以降は回復し、さらに収益を伸ばしている。

2021年の春、このプラットフォームはトランザクション処理額が20億ドル（約2200億円）を超え、2019年の夏に到達した10億ドル（約1100億円）の2倍になった。2016年から2019年の間には、275％の収益成長を遂げている。現在は3000以上のスポーツ団体が、LeagueAppsをオペレーションシステムとして使用している。

2021年には400万件以上のスポーツ登録を処理すると、同社では予測している。

フラッグシップソフトウェアに加えて、同社の「NextUp（ネクストアップ）」プラットフォームは、オーガナイザーにリーダーシップ開発とネットワーク構築の機会を提供することを目的として設計されたものだ。さらに同社では、恵まれない地域でのスポーツを通じた青少年育成プログラムに焦点を当てた慈善活動プログラム「FundPlay（ファンドプレイ）」も運営している。

Contour VenturesのMatt Gorin（マット・ゴリン）氏は、スポーツをしている子どもを持つ親として、LeagueAppsへの投資に惹かれたと語っている。同氏の見解では、この会社は「大きいが断片的な」市場に取り組んでいるという。

「私は、ユーススポーツ体験とそれを提供する組織が、子どもや家族、そしてコミュニティにとってどれほど重要であるかを身をもって体験してきました」と、ゴリン氏は述べている。「LeagueAppsは多くの点でユニークであり、特に成熟しつつあるユーススポーツ市場に対して、テクノロジーとコミュニティ、顧客サービス、そしてインパクトを融合させるという、他に類を見ないアプローチとコミットメントを提供しています」。

LeagueAppsは、新たに調達した資金を主に製品とエンジニアリングへの投資に充て、ユーススポーツ組織に「より多くのソリューションを提供」することを計画している。