インクルーシブ / インクリュージョン（用語）

新世代のエンジェル投資家誕生を支援するHustle Fund

Kara Penn（カラ・ペン）氏は、4人の娘の母であり、マネジメントおよび戦略コンサルティング会社Mission Spark（ミッションスパーク）を経営している。

そして今、彼女はHustle Fund（ハッスルファンド）のおかげで、エンジェル投資家でもある。

Hustle Fundは2021年5月、コロラド州に拠点を置くペン氏のように、より多くの人々がエンジェル投資を利用できるようにする新しいイニシアチブAngel Squad（エンジェルスクワッド）でステルスから抜け出した。

「当社は、スタートアップのエコシステムで多様性を増すためにしなければならないことは、性別、人種、居場所にかかわらず、エンジェル投資家における多様性を増すことだと信じています」と Hustle Fundの共同創業者兼ゼネラルパートナーのElizabeth Yin（エリザベス・イン）氏は語った。

Hustle FundはAngel Squadを通じて、インクルーシブな投資家コミュニティの構築を特に目指しており、最低投資額を低く、利用しやすいように設定し（最低1000ドル、約10万9000円から）、投資家に「エンジェルの心得」とHustle Fundとともに投資する方法を提供する。

イン氏は「エンジェル投資家になるには、大金持ちで2万5000ドル（約270万円）の小切手が切れなければいけないという誤解がありました。少なくとも私はそのように思っていました」とTechCrunchに語った。「でも実際シリコンバレーでは、1000ドルの小切手で投資している人たちがいます。これはほとんどの人が考える額よりもはるかに手に届く額です。少額の小切手をたくさん集めて、企業に対して多額の小切手を切ることができるという点で、このグループを作る価値があります」。

ペン氏はこれまで、不動産、食品、アパレル、金融などさまざまなセクターで5社のスタートアップに投資している。

ペン氏は自身のことをエンジェル投資において「完全な初心者」としており、今のところはこの経験を楽しんでいる。

「すばらしい実業家は誰でもなれ、どこにでもいるというHustle Fundの考え方が気に入っています」とペン氏はTechCrunchに話した。「あらゆるレベルの専門知識が揃い、どんな質問にも答えてくれる協力的なコミュニティの一員でいることを楽しんでいます」。

またこの経験により、彼女はテクノロジーとAI、データの収集と利用、新しい市場の創出など、今までに触れたことのない方法で知識を広めることができるようになった。

「自分の会社で社会的影響力のある組織の戦略に専念する者として、創業者が複雑な問題に対して創造的な解決策を特定して市場に出す方法を探したり、難しい問題をスマートな方法で解決しようとしている革新的な人々のネットワークに触れることを望んでいます」とペン氏。「このように触れる機会があることで、難しい社会問題にこれらのアプローチを適用することについて考えようという気持ちにさせてくれます」。

Hustle Fundはエリザベス・イン氏とEric Bahn（エリック・バーン）氏によって創業されたベンチャー企業だ。両者ともにプレシードソフトウェアのスタートアップへの投資を目標に持つ、500 Startups（500スタートアップス）の元パートナーだ。同社は従来、通常は最低限の有望製品を持つ企業に2万5000ドルを投資し、チームと連携して企業の成長を助けている。同社ウェブサイトによると、年間およそ50件の投資を行っている。

最近、新規ファンドに 3360万ドル（約36億8000万円）調達した。

「当社にとって最も重要なものの1つは、このスタートアップのエコシステムの方法を変えるという大きなミッションです」とイン氏。「起業家として、そしてアクセラレーターの業務を行うときの両方で、特定の履歴書があったり、特定の学校を卒業しているとか、特定の人種や性別だと、会社を立ち上げて、資金を調達する上で有利だということに気づきました。この項目に当てはまらなければ、多くの人にとって起業はとても困難なことになる可能性があるのです。だから当社はあらゆる階層からの多くの創業者に投資しているのです」。

Hustle FundのベンチャーパートナーBrian Nichols（ブライアン・ニコルス）氏は、AngelList（エンジェルリスト）でLyft（リフト）の元社員のシンジケートを開始した。いくつかの取引を行った後、AngelList以外の人々に対するシンジケートを開いている。

「あらゆるバックグラウンドの世界中の人々が、プライベートマーケットに多様性を求めていることがわかりました」とニコラス氏は話した。「Hustle Fundとは、投資していた企業の趣味が合うので、共同投資という形で関係を築いたのです」。

ニコラス氏は現在、同社のAngel Squadイニシアチブを助けている。これまでに合計で150名以上の投資家を集めたコホートを2回行った。同社のミッションに忠実に、投資家は通常のエンジェルシンジケートよりも多様性に富んでいた。メンバーの46％が女性で9％が過小評価されているマイノリティ、32％が弁護士や医者、アーティストなどのテック以外の専門職であった。シリコンバレーに拠点を置いているのは1/3に過ぎない。

Angel Squadでは毎週、ネットワーキングから、Hustle Fundが投資を検討している機会を密かに伺ったり、創業者とミーティングを行うか否かの理由について話し合ったりするなど、さまざまなイベントを開催している。

ニコラス氏は「ゼロから始めることを考えてみてください。たくさんのステップをスキップできて、スタートアップを評価するプロセスで大金を失う前に、エリザベス（・イン氏）にやり方を教えてもらうことができるのです」とTechCrunchに語った。「Angel Squadはまさに、私が投資に興味を持ち始めた3、4年前に望んでいたものです」。

シリコンバレーは威嚇的なところもあるが、実際はすべてにおけるエキスパートはいないとイン氏は認識している。

「私たちは人々がとても親切な環境を作ろうとしています。『嫌なやつ禁止』ルールがあり、人々が安心して学び、質問でき、エンジェル投資について何も知らなくてよいという環境です。実際ほとんどの人はエンジェル投資について知っていません。私たちは新しい人をこのシステムに招き入れたいのです」。

「嫌なやつ」ではない他、Angel Squadのメンバーになるための他の条件には、価値を高め、公認の投資家になることが含まれる。

「現在の競合的なラウンドで、私たちが投資しているポートフォリオ企業を積極的にサポートしたい人々を求めています」とニコラス氏。「プログラムに参加したい方は全員、当社チームによる面接があり、『あなたが創業者を助けられることは何か』といった質問がされます。受動的な資本は探していません。受動的な資本はエコシステムのこの時点ではさほど役に立ちません」。

カテゴリー：VC / エンジェル

タグ：Hustle Fund、多様性、インクルーシブ

画像クレジット：Hustle Fund

［原文へ］

（文：Mary Ann Azevedo、翻訳：Dragonfly）

【コラム】アクセシブルなゲーミングの未来を創る

編集注：本稿の著者Williesha Morris（ウィリーシャ・モリス）氏は10年以上のキャリアを持つ、フリーランスのジャーナリスト。執筆していないときは、本を読んだり、ビデオゲームをしたり、マーベル・シネマティック・ユニバースについてしゃべったりしている。

ーーー

2011年、プロダクト開発者Fred Davison（フレッド・デイヴィソン）氏は、発明家のKen Yankelevitz（ケン・ヤンケレヴィッツ）氏と同氏が開発した四肢麻痺患者向けのビデオゲームコントローラー「QuadControl」に関する記事を読んだ。当時、ヤンケレヴィッツ氏はリタイアを目前にしていた。デイヴィソン氏はゲーマーではなかったが、母親が進行性の神経変性疾患であるALSにかかっていたことから、ヤンケレヴィッツ氏が手を離そうとしていたことに意識が向いたという。

2014年に発売されたデイヴィソン氏のQuadStickは、幅広い業界で関心を集めていたヤンケレヴィッツ氏のコントローラーの最新モデルだ。

「QuadStickは私がこれまで携わった中で最もやりがいのあるものでした」とデイヴィソン氏はTechCrunchに語った。「（障害を持つゲーマーたちが）こうしたゲームに参加できることが何を意味するのかについて、たくさんのフィードバックを得ています」。

土台作り

デンバーのCraig Hospital（クレイグ病院）で作業療法士を務めるErin Muston-Firsch（エリン・マスタン・ファーシュ）氏は、QuadStickのようなアダプティブゲーミングのツールは同病院のセラピーチームに革命をもたらすものだったと語る。

同氏は6年前、脊髄損傷で来院した大学生のためのリハビリ療法を考案した。その青年はテレビゲームをするのが好きだったが、けがのために手が使えなくなっていたという。そこで、リハビリ療法にデイヴィソンの発明が取り入れられ、患者はWorld of Warcraft and Destinyをプレイできるようになった。

QuadStick

Jackson “Pitbull” Reece（ジャクソン・「ピットブル」・リース）氏は、QuadStickとXAC（Xboxアダプティブコントローラー）の操作に口を使うことで有名なFacebookのストリーマーだ。XACはMicrosoft（マイクロソフト）ソフトが障害者向けに設計したコントローラーで、ビデオゲームのユーザーインプットを容易にする。

リース氏は2007年のオートバイ事故で脚の機能を失い、その後、感染症のために手足の切断を余儀なくされた。同氏は、スポーツビデオゲームによって満たされていた健全な頃の生活が思い出されると語っている。ゲーミングコミュニティの一員であることは、自分のメンタルヘルスの重要な部分だという。

幸いなことに、支援技術のコミュニティ間では、ゲーマー向けのハードウェアを作ることに関して競争ではなくコラボレーションの雰囲気がある。

しかし、大手テクノロジー企業のすべてがアクセシビリティに積極的というわけではない。その一方で、障害を持つゲーマー向けにカスタマイズされたゲーミング体験を実現するアフターマーケットデバイスが提供されている。

マイクロソフトの参加

マイクロソフトでインクルーシブリードを務めるBryce Johnson（ブライス・ジョンソン）氏は2015年のハッカソンで、障害を持つ退役軍人の支援団体Warfighter Engagedと面会した。

「私たちは時を同じくして、インクルーシブデザインに対する考え方を発展させようとしていました」とジョンソン氏は語る。実際のところ、第8世代のゲーミングコンソールは、障害を持つゲーマーにとって障壁となっていた。

「コントローラーは、前提条件を設定した主要なユースケースに合わせて最適化されています」とジョンソン氏はいう。実際、従来のコントローラーのボタンやトリガーは、耐久性の高い健常者向けのものだ。

Warfighter Engaged以外にも、マイクロソフトはAbleGamers（障害のあるゲーマーのための最も有名な慈善団体）、クレイグ病院、Cerebral Palsy Foundation、および英国に拠点を置く障害のある若いゲーマーのための慈善団体Special Effectと協力している。

Xboxアダプティブコントローラー

2018年にリリースされたXACは、移動性に制限のあるゲーマーが、他のゲーマーとシームレスにプレイできるように設計されている。ゲーマーたちがコメントを寄せた細部の1つに、XACは医療機器ではなく、消費者向け機器のように感じるということが挙げられている。

「このコミュニティのためにこの製品を設計する、ということは不可能だと分かっていました」とジョンソン氏はTechCrunchに語った。「コミュニティと一緒に製品を設計する必要がありました。『私たちがいなければ、私たちは何もできない』という信念を私たちは持っています。インクルーシブデザインという私たちの原則は、最初の段階からコミュニティを取り込むよう促すものです」。

大物たちの協力

他にも協力する人たちがいた。多くの発明がそうであるように、Freedom Wingの誕生は偶然の産物だった。

ATMakersのBill Binko（ビル・ビンコ）氏は、支援技術（Assistive Technology：AT）カンファレンスのブースで、ATMakersのJoystickという電動車イス向けデバイスを使用した人形「Ella」を展示した。カンファレンスにはAbleGamersを支えるブレーントラストの一員であるSteven Spohn（スティーブン・スポーン）氏も出席していた。

スポーン氏はJoystickを見て、ビンコ氏にXACで動作する同様のデバイスが欲しいと伝えた。センサーを使って、イスの代わりにゲームコントローラーを操作するというものだった。このデバイスはすでに電動車イスデバイスとして路上テストされているため、何カ月にも及ぶ研究開発とテストを必要としなかった。

ATMakers Freedom Wing 2

ビンコ氏によると、零細企業は、アクセシブルゲーミング技術の変革において先陣を切っているという。マイクロソフトやLogitech（ロジテック）のような企業は、最近になってようやく足場を固めた。

一方、ATMakersやQuadStickなどの小規模なクリエイターたちは、この業界をディスラプトすることに奔走している。

「誰もが（ゲーミングを）手にすることができ、コミュニティと関わり合う機会が広がっていきます」とビンコ氏。「ゲーミングは、人々が極めることができ、参加できるものなのです」。

参入の障壁

技術が進化するにつれて、アクセシビリティへの障害も進化する。こうした課題にはサポートチームの不足、セキュリティ、ライセンス、VRなどが含まれる。

ビンコ氏によると、需要の増加にともない、こうした機器のサポートチームを管理することは新たなハードルになっているという。AT業界に参入して機器の製造、設置、保守を支援するためには、技術的なスキルを持つ人材がさらに必要となる。

セキュリティとライセンスは、多様なハードウェア企業との協業に必要となる資金やその他のリソースのために、デイヴィソン氏のような小規模なクリエイターの手を離れている。例えば、Sony（ソニー）のライセンシングエンフォースメント技術は、新しい世代のコンソールではますます複雑化している。

デイヴィソン氏はテクノロジー業界での経験から、機密情報を保護するための制限について理解している。「製品の開発に膨大な資金を費やし、そのあらゆる側面をコントロールしたいと考えているのです」とデイヴィソン氏は語る。「力の小さい者が一緒に仕事をするのを厳しくしているだけです」。

デイヴィソン氏によると、ボタンマッピングではPlayStationが先行したが、セキュリティプロセスが厳格だという。コントローラーの使用を制限することがコンソール企業にとってどのようなメリットがあるのか、同氏には理解できない。

「PS5とDualSenseのコントローラーの暗号化は今のところクラックできないため、ConsoleTunerのTitan Twoのようなアダプターデバイスは、非公式な『中間者』攻撃のような他の弱点を見つけなければなりません」とデイヴィソン氏は述べている。

この手法を使えば、デバイスはQuadStickから最新世代のコンソールまで旧世代のPlayStationコントローラーを利用できるようになり、障害を持つゲーマーはPS5をプレイできるようになる。TechCrunchはソニーのアクセシビリティ部門に問い合わせたが、この部門の代表者によると、適応性のあるPlayStationやコントローラーに関する当面の計画はないという。しかし、同部門はアドボケイトやゲーミング開発者と協力し、最初からアクセシビリティを考慮しているとした。

これとは対照的に、マイクロソフトのライセンシングシステムはより寛容で、特にXAC、そして新システムで旧世代のコントローラーを使用する機能を備えている。

「PC業界とMacを比較してみてください」とデイヴィソン氏は続けた。「さまざまなメーカーのPCシステムを組み合わせることはできますが、Macではできません。一方はオープンスタンダードで、もう一方はクローズドです」。

よりアクセシブルな未来

日本のコントローラー会社HOLIは2021年11月、Nintendo Switch（ニンテンドースイッチ）用に正式にライセンスされたアクセシビリティコントローラーをリリースした。現時点では米国内では販売されていないが、オンラインで購入可能な地域の制限はない。任天堂はまだこの技術を完全には採用していないが、今回の開発は、アクセシビリティを重視した任天堂の方向性を示している。

任天堂のアクセシビリティ部門は完全なインタビューには応じなかったが、TechCrunchに声明を送った。「任天堂は、誰もが楽しめる製品およびサービスの提供に努めています。当社の製品は、ボタンマッピング、モーションコントロール、ズーム機能、グレースケールと反転カラー、触覚と音声のフィードバック、その他の革新的なゲームプレイオプションなど、さまざまなアクセシビリティ機能を備えています。さらに、任天堂のソフトウェアおよびハードウェアの開発者は、現在および将来の製品でアクセシビリティを拡大するために、さまざまな技術を評価し続けています」。

障害を持つゲーマーのための、よりアクセシブルなハードウェアを求める動きはスムーズではない。これらのデバイスの多くは、資本がわずかな小規模企業のオーナーによって開発されたものだ。いくつかのケースでは、開発の初期段階で包括性の意思を持つ企業が関与している。

しかし、徐々にではあるが確実に支援技術は進歩しており、障害を持つゲーマーにとってよりアクセシブルなゲーミング体験を実現する方向に向かっている。

カテゴリー：ゲーム / eSports

タグ：アクセシビリティ、インクルーシブ、Microsoft、Xbox、Sony、Playstation、HOLI、Nintendo Switch、任天堂、コラム

［原文へ］

（文：Williesha Morris、翻訳：Dragonfly）

【コラム】欠陥のあるデータは障がいを持つ人を危険にさらしている

編集部注：Cat Noone（キャット・ヌーン）氏は、世界のソフトウェアをアクセス可能にすることをミッションとするスタートアップStarkのプロダクトデザイナーで共同ファウンダー、CEO。彼女は世界の最新のイノベーションへのアクセスを最大化する製品と、テクノロジーを実現することにフォーカスしている。

ーーー

データは単に抽象的なものではなく、人々の生活に直接的な影響を及ぼしている。

2019年、ある車椅子ユーザーが交通量の多い道を横断していた際、AIを搭載した配達ロボットがその進行を歩道の縁石で妨げてしまうという事故が起きた。「テクノロジーの開発において、障がい者を副次的に考えるべきではありません」と当事者は話している。

他の少数派グループと同様、障がい者は長い間欠陥のあるデータやデータツールによって被害を受けてきた。障がいにはさまざまな種類がありそれぞれ大きく異なるため、パターンを検出してグループを形成するようプログラムされたAIの型通りの構造に当てはまるようなものではない。AIは異常なデータを「ノイズ」とみなして無視するため、結論から障がい者が除外されてしまうことが多々あるのが現状だ。

例えば、2018年にUberの自動運転のSUVに追突されて死亡したElaine Herzberg（エレイン・ハーツバーグ）氏のケースがある。衝突時、ハーツバーグ氏は歩いて自転車を押していたためUberのシステムはそれを「車両」「自転車」「その他」のどれかとして検出し、瞬時に分類することができなかったのだ。この悲劇は後に障がい者に多くの疑問を投げかけた。車椅子やスクーターに乗っている人も、同じようにこの致命的な分類ミスの被害者になる可能性があるのだろうか。

データを収集し処理する新たな方法が必要だ。「データ」とは個人情報、ユーザーからのフィードバック、履歴書、マルチメディア、ユーザーメトリクスなどあらゆるものを指し、ソフトウェアを最適化するために常に利用されているが、データが悪用される可能性や各タッチポイントに原則が適用されていない場合などもあり、そういった不正な方法を確実に理解した上で利用されているわけではない。

今、障がい者を考慮したデータ管理を実現するための、より公平な新しいデータフレームワークが必要とされている。それが実現しなければ、デジタルツールへの依存度が高まる日々の生活の中、障がいを持つ人々はこれからもより多くの危険に直面することになるだろう。

誤ったデータが良いツールの構築を妨げる

アクセシビリティの欠如が障がい者の外出を妨げることはないとしても、質の高い医療や教育、オンデマンド配送など、生活の要となる部分へのアクセスを妨げてしまう可能性はある。

世の中に存在するツールはすべて、作り手の世界観や主観的なレンズが反映された、作り手の環境の産物である。そしてあまりにも長い間、同一のグループの人々が欠陥したデータシステムを管理し続けてきた。これでは根本的な偏見が永続し、これまで光が当てられてこなかったグループが引き続き無視されていくという閉ざされたループに陥ってしまう。データが進歩するにつれ、このループは雪だるま式に大きくなっていくだろう。我々が扱っているのは機械「学習」モデルだ。「X（白人、健常者、シスジェンダー）でない」ことは「普通でない」ことを意味すると長い間教えられていれば、その基礎の下、進化していくのである。

データは私たちには見えないところでつながっており、アルゴリズムが障がい者を除外していないというだけでは不十分である。バイアスは他のデータセットにも存在している。例えば米国では、黒人であることを理由に住宅ローンの融資を拒否することは違法とされているが、融資は有色人種に不利なバイアスが内在するクレジットスコアに基づいて審査が行われるため、銀行は間接的に有色人種を排除していることになる。

障がいのある人の場合、身体活動の頻度や週の通勤時間などが間接的に偏ったデータとして挙げられる。間接的な偏りがソフトウェアにどのように反映されるかの具体的な例として、採用アルゴリズムがビデオ面接中の候補者の顔の動きを調査する場合、認識障がいや運動障がいのある人は、健常者の応募者とは異なる障壁を経験することになるだろう。

この問題は障がい者が企業のターゲット市場の一部として見なされていないことにも起因している。企業が理想のユーザー像を思い描いて意見を出し合う開発の初期段階において、障がい者が考慮されないことが多く、精神疾患のような人目につきにくい障がいの場合は特にその傾向が著しい。つまり、製品やサービスを改良するために使用される初期のユーザーデータには、障がい者のデータが含まれていないということだ。実際、56％の企業がデジタル製品のテストを障がい者に対して定期的に行っていないという。

テック企業が障がい者を積極的にチームに参加させれば、彼らのニーズをより反映したターゲット市場が実現するだろう。さらに技術者たちが、目に見える、あるいは目に見えない除外項目を意識してデータに反映させる必要がある。これは簡単な作業ではないためコラボレーションが不可欠となるだろう。日々使用するデータから間接的なバイアスを排除する方法について、話し合いの場を広げ、フォーラムに参加したり知識を共有することができれば理想的である。

データに対する道徳的なストレステストが必要

ユーザビリティ、エンゲージメント、さらにはロゴの好みなど、企業は製品に対して常にテストを実施している。どんな色が顧客を獲得しやすいか、人々の心に最も響く言葉は何かなど、そういったことは把握しているのに、なぜデータ倫理の基準を設定しないのか。

道徳的なテクノロジーを生み出すことに対する責任は、企業の上層部だけにあるわけではない。製品の土台となるレンガを日々積み上げている人々にも責任があるのだ。フォルクスワーゲンが米国の汚染規制を逃れるための装置を開発した際、刑務所に送られたのはCEOではなくエンジニアである。

私たちエンジニア、デザイナー、プロダクトマネージャーは皆、目の前のデータを認識し、なぜそれを収集するのか、どのように収集するのかを考えなければならない。人の障がい、性別、人種について尋ねることに意味があるのか、この情報を得ることによりエンドユーザーにとってどのようなメリットがあるのかなど、必要としているデータを調査して自身の動機を分析しなければならない。

Stark（スターク）では、あらゆる種類のソフトウェア、サービス、技術を設計、構築する際に実行すべき5つのフレームワークを開発した。

どのようなデータを収集しているのか。
なぜそのデータを収集するのか。
どのように使用するのか（そしてどのように誤用される可能性があるか）。
IFTTT（「If this, then that」の略で「この場合はこうなる」を意味する）をシミュレートする、データが悪用される可能性のあるシナリオとその代替案を説明する。例えば大規模なデータ侵害が発生した場合、ユーザーはどのような影響を受けるのか。その個人情報が家族や友人に公開されたらどうなるのか？
アイデアを実行するか破棄するか。

曖昧な言葉や不明瞭な期待値、こじつけでしかデータを説明できないのであれば、そのデータは使用されるべきではない。このフレームワークでは、データを最もシンプルな方法で説明することが求められるため、それができないということは責任を持ってデータを扱うことができていないということだ。

イノベーションには障がい者の参加が不可欠

ワクチン開発からロボットタクシーまで、複雑なデータテクノロジーは常に新しい分野に進出しているため、障がい者に対する偏見がこれらの分野で発生すると障がいのある人々は最先端の製品やサービスにアクセスできなくなってしまう。生活のあらゆる場面でテクノロジーへの依存度が高まるにつれ、日常的な活動を行う上で疎外されてしまう人々もさらに多くなる。

将来を見据え、インクルージョンの概念をあらかじめ製品に組み込むことが重要だ。お金や経験値の制限は問題ではない。思考プロセスや開発過程の変革にコストがかかることはなく、より良い方向へと意識的に舵を切ろうとすることが大切なのである。初期投資は少なからず負担になるかもしれないが、この市場に取り組まなかったり製品の変更を後から余儀なくされたりすることで失う利益は、初期投資をはるかに上回るだろう。特にエンタープライズレベルの企業では、コンプライアンスを遵守しなければ学術機関や政府機関との契約を結ぶことはできないだろう。

初期段階の企業は、アクセシビリティの指針を製品開発に取り入れ、ユーザーデータを収集して、その指針を常に強化していくべきだ。オンボーディングチーム、セールスチーム、デザインチームでデータを共有することで、ユーザーがどのような問題を抱えているかをより詳細に把握することができる。すでに確立された企業は自社製品のどこにアクセシビリティの指針が欠けているかを分析し、過去のデータやユーザーからの新たなフィードバックを活用して修正を行う必要がある。

AIとデータの見直しには、単にビジネスフレームワークを適応させるだけでは十分ではなく、やはり舵取りをする人たちの多様性が必要だ。テクノロジー分野では男性や白人が圧倒的に多く、障がい者を排除したり、偏見を持ったりしているという証言も数多くある。データツールを作るチーム自体が多様化しない限り、各組織の成長は阻害され続け、障がい者はその犠牲者であり続けることになるだろう。

カテゴリー：パブリック / ダイバーシティ

タグ：Stark、障がい、アクセシビリティ、機械学習、多様性、コラム、インクルーシブ

画像クレジット：Jorg Greuel / Getty Images

［原文へ］

（文：Cat Noone、翻訳：Dragonfly）

【コラム】バイデン政権はインクルーシブであるためにAI開発の取り組みにもっと力を入れる必要がある

本稿の著者Miriam Vogel（ミリアム・フォーゲル）氏は、人工知能に存在する無意識の偏見を減らすことを目的とした非営利団体EqualAIの代表兼CEO。

ーーー

人工知能国家安全保障委員会（NSCAI）は2021年3月、不安なメッセージを公的に伝える報告書を発表した。「米国は、AI時代に防衛したり競争したりする準備ができていない」というものだ。この報告書は、直ちに回答が求められる2つの重要な質問につながる。つまり、米国がAIの開発と導入に遅れをとった場合、米国は世界の超大国であり続けるのか？そして、この軌道を変えるために私たちは何ができるのか？

一見、中立的に見える人工知能（AI）ツールを放置すると、不平等が拡大し、事実上、差別が自動化されてしまう。テクノロジーが可能にする弊害は、すでに信用判断、医療サービス、広告などで表面化している。

このような事態の再発と規模の拡大を防ぐために、Joe Biden（ジョー・バイデン）政権は、AIと機械学習モデルに関する現行の法律を明確にする必要がある。これは、民間企業による利用をどのように評価するかという点と、政府システム内でのAI利用をどのように管理するかという点の両方においてだ。

一見、中立的に見える人工知能（AI）ツールを放置すると、不平等が拡大し、事実上、差別が自動化されてしまう。

政権は、ハイテク分野に重要な地位の人事を置いたり、就任初日にEquitable Data Working Group（公平なデータのためのワーキンググループ）を設立する大統領令を発布するなど、好印象を与えている。これにより、米国のAI開発とデジタル空間における公平性の確保を懸念する懐疑的な人たちをも安心させた。

しかし、AIへの資金提供を現実のものとし、その開発と利用を保護するために必要なリーダーと体制を確立するという強い決意を政権が示さなければ、その安心も束の間のことだろう。

優先順位の明確化が必要

連邦政府レベルでは、AI政策や技術分野における平等性へのコミットメントが大きく変化してきている。OSTPの副局長であるAlondra Nelson（アロンドラ・ネルソン）、NECのTim Wu（ティム・ウー）、NSCのKurt Campbell（カート・キャンベル）など、バイデン政権内の注目を集める人事を見ると、内部の専門家による包括的なAI開発に大きな焦点が置かれていることが分かる。

NSCAIの最終報告書には、包括的なAI開発のためのより良い基盤を実現するために重要となる提言が含まれている。例えば、現在および将来の従業員を訓練するためのU.S. Digital Service Academy（米デジタルサービスアカデミー）を通じて新たな人材パイプラインを構築することなどが挙げられている。

また、報告書では、副大統領が率いる新しいTechnology Competitiveness Council（技術競争力協議会）の設立を推奨している。これは、AIのリーダーシップに対する国の取り組みを最高レベルの優先事項として維持するために不可欠なものとなるだろう。ハリス副大統領が大統領との戦略的パートナーシップを持っており、技術政策に精通していること、公民権に力を入れていることなどを考慮すると、AIに関する政権のリーダーシップをハリス副大統領が陣頭指揮することは理に適っていると思われる。

米国は模範となるべきだ

AIは、何千通もの履歴書に目を通し、適している可能性のある候補者を特定するなど、効率化を実現する上で強力であることはわかっている。しかし、男性の候補者を優先的に採用するAmazonの採用ツールや、人種に基づく信用の「デジタル・レッドライニング」など、差別を拡大することもできてしまう。

バイデン政権は、AIが政府の業務を改善する方法についてのアイデアを募る大統領令を各省庁に出すべきだ。また、この大統領令では、米国政府が使用するAIが意図せずに差別を含む結果を広めていないかどうかを確認することも義務付けるべきである。

例えば、AIシステムに組み込まれた有害なバイアスが、差別的な提案や、民主的で包括的な価値観に反する提案につながっていないかどうかを評価する。そして、AIが常に反復して新しいパターンを学習していることを考慮すると、定期的に再評価を行うスケジュールを設定するべきだ。

責任あるAIガバナンスシステムの導入は、特定の利益を拒否する際にデュー・プロセスの保障が求められる米国政府においては特に重要だ。例えば、AIがメディケイドの給付金の配分を決定するために使用され、そのような給付金がアルゴリズムに基づいて修正または拒否された場合、政府はその結果を説明できなければならず、これはまさに技術的デュー・プロセスと呼ばれている。

説明可能性、ガイドライン、人間の監督なしに決定が自動システムに委ねられると、この基本的な憲法上の権利が否定されるという、どうしようもない状況に陥ってしまう。

同様に、主要企業によるAIの安全対策を確実なものにするにあたり、政権はその調達力を通じて絶大な力を持っている。2020年度の連邦政府の契約費は、新型コロナ対策費を含める前でも、6000億ドル（約64兆9542億円）を超えると予想されている。米国政府は、AIシステムを連邦政府が調達する際のチェックリストを発行すれば、非常に大きな効果を上げることができる。これにより、関連する市民権に配慮しつつ、政府のプロセスが厳格かつ普遍的に適用されるようになるだろう。

AIシステムに起因する差別からの保護

政府は、AIの弊害から私たちを守るためのもう1つの強力な鍵を握っている。調査および検察の権限だ。判断がAI搭載システムに依存している場合、現行の法令（ADA、フェアハウジング法、フェアレンディング法、公民権法など）の適用可能性を明確にするよう各機関に指示する大統領令が出れば、世界的な大混乱に陥る可能性がある。米国で事業を行っている企業は、自社のAIシステムが保護対象クラス（Protected Class）に対する危害を加えていないかどうかをチェックするきっかけができることだろう。

低所得者は、AIの多くの悪影響に対して不相応に弱い立場にある。特にクレジットやローンの作成に関しては、従来の金融商品へのアクセスや、従来のフレームワークに基づいて高いスコアを得ることができない可能性が高いため、その傾向が顕著だ。そしてこれが、そのような判断を自動化するAIシステムを作るためのデータとなる。

消費者金融保護局（CFPB）は、差別的なAIシステムに依存した結果の差別的な融資プロセスについて、金融機関に責任を負わせる上で極めて重要な役割を果たす可能性がある。大統領令の義務化は、AI対応システムをどのように評価するかを表明するための強制機能となり、企業に注意を促し、AI利用に関する明確な予測で国民をよりよく保護することができる。

個人が差別的な行為をした場合には責任を問われ、説明もなく恣意的に公共の利益が否定された場合にはデュー・プロセス違反となることが明確になっている。理論的には、AIシステムが関与している場合、これらの責任と権利は容易に移行すると思われるが、政府機関の行動や判例（というよりもむしろ、その欠如）を見る限り、そうではないようだ。

差別的なAIに対する法的な異議申し立てを基本的に不可能にするようなHUD（都市住宅開発省）規則案を撤回するなど、政権は良いスタートを切っている。次のステップとして、調査や訴追の権限を持つ連邦政府機関は、どのようなAI行為が審査の対象となり、現行の法律が適用されるのかを明確にする必要がある。例えば、HUDは違法な住宅差別について、CFPBは信用貸しに使用されるAIについて、労働省は雇用、評価、解雇の際に行われる判断に使用されるAIについてといった具合だ。

このような行動は、苦情に関する原告の行動に有益な先例を作るという利点もある。

バイデン政権は、差別のない包括的なAIの実現に向けて、心強い第一歩を踏み出した。しかし、連邦政府は、AIの開発、取得、使用（社内および取引先）が、プライバシー、公民権、市民的自由、米国の価値観を保護するような方法で行われることを連邦政府機関に要求することで、自らの問題を解決しなければならないだろう。

カテゴリー：パブリック / ダイバーシティ

タグ：ジョー・バイデン、コラム、人工知能、アメリカ、差別、医療、広告、インクルーシブ

画像クレジット：Andy Emel / Getty Images

［原文へ］

（文：Miriam Vogel、翻訳：Dragonfly）