タグ: DX / デジタルトランスフォーメーション（用語）

DXを語る上で無視できないデータ活用。業界を超えて先進企業が取り組んでいるが、Deloitte Tohmatsu（デロイト トーマツ）でテクニカル・ディレクターを務めるIvana Bartoletti（イヴァナ・バートレッティ）氏は「盲目的なデータ活用は課題解決につながりません」と警鐘を鳴らす。データはどう使われるべきなのか。現在のデータ活用方法にどのような問題があるのか。同氏が詳しく語った。

本記事はB’AIグローバル・フォーラム主催「Power, Politics, & AI：Building a Better Future」
の講演をもとに編集・再構成したものである。

「データは客観的」なのか？

近年、DXの必要性が叫ばれ、データとAIの活用を進めようとする機運が高まるばかりだ。AIの機械学習により病気の症状が表出する以前に病気を発見するなど、前向きなデータ活用が拡大している。しかしバートレッティ氏は危機感を覚える。

「多くの人が『データは客観的なものだ』と思っています。だからこそ、意思決定や法整備にデータを活用すべきだという声が上がります。しかし、それではうまくいかないのです」と同氏は話す。

データを読み込んだAIが意思決定に活用されることで、結果として差別が再生産されることがあるからだ。

例えば、銀行などの金融機関が既存のデータをAIに学習させ、顧客の信用を予測させるとしよう。すると、男性の方が女性よりも高い信用があると結論され、その金融機関は男性に有利な方針を採用することがあり得る。なぜなら、これまでビジネス活動の重要ポジションの多くは男性により占有され、それにより女性の収入は男性の収入よりも一般的に少なかったからだ。同様の問題は人種の異なる者の間でも起きるだろう。

バートレッティ氏は「データの問題は、実は政治的な問題なのです」と指摘する。

差別をするのはアルゴリズムか、人間か

こうした議論を聞くと「差別的な結果が出てしまうのはアルゴリズムの問題だから、アルゴリズムを改善すれば良い」と考える人もいるかもしれない。

しかし、バートレッティ氏は「アルゴリズムは差別をしません。差別をもたらすのはシステムを作る人間です」と断言する。

ここで同氏は1つの例を挙げた。大きな都市の中心に1つの会社がある。この会社のCEOが自分の側近を社員の中から選ぼうと考えた。CEOはソフトウェアを使って自分の条件に合う社員を検索した。CEOは自分が午前7時に出勤するので、同じ時間に出勤する社員に絞り込んだ。

これだけでは「午前7時に出勤する社員」というのが検索の条件であるように見える。しかし、実際にはそうではない。

「朝早くに都市の中心の会社に出社できるのはどんな人でしょう？街中にアパートを借りる財力がある若い男性社員でしょうか？あるいは2人の子どもがいる郊外在住の女性社員でしょうか？この場合は若い男性社員でしょう」と同氏はCEOが気づいていない隠れた条件を説明する。その上で「重要なのは、差別やステレオタイプ、バイアスを自動化してしまうシステムに注意を払うことです」と話す。

データで未来は予測できるのか？

「AIは『客観的な』データを摂取することで答えを導き出すと思われています。しかし、客観的なデータ、中立的なデータなどというものは存在しません」とバートレッティ氏はいう。

なぜなら、データというものは「現在」という瞬間の写真でしかないからだ。つまり、データはこれまで積み重ねられてきたあらゆる差別や不平等が「今」どうなっているかということを見せるだけだ。こうした「今」や「今まで」をAIに取り込ませ、未来を予測しようとすれば、今現在起きている問題や差別を自動化し、継続させることしかできない。

「既存のデータで未来を予測することは、今、弱い立場にいる人々を抑圧することにつながります。AIの機械学習は今までのデータをもとにパターンを見つけ出し、方針を決定します。これは未来のあるべき姿を創造することとは異なります」とバートレッティ氏。

同氏はまた「システムは選択されるもので、自然とでき上がるものではありません。先程の金融機関の男女の信用の例で言えば、『データを活用する金融機関が女性に大きな信用を置く』というような状況は自然ともたらされることはないのです」という。

ダイバーシティを取り入れたデータ活用、AI活用に向けて

では、どうすれば前向きに、既存の差別構造を持ち込まずにデータやAIを活用できるのだろうか。

バートレッティ氏は「今、データ活用に関わる決定の場にいる女性の数は多くありません。女性などのマイノリティが意思決定の場にいなければ『これは問題ですよ』という人がいないということです。組織はデータ活用やアルゴリズムに関して公平・公正でなければなりません」と答える。

しかし、これには大きな課題が立ちはだかる。男性が多数派の意思決定の場に女性などのマイノリティを増やすということは、意思決定の場に今いる人々からすれば、自分の特権を手放すことを意味するからだ。既存の意思決定者たちが得るものもなく特権を手放すことは考えにくい。彼らがマイノリティの意思決定の参加を加速させることで得る利益はあるのだろうか。

バートレッティ氏は「彼らには2つの利益があります」という。

1つは自社の評判確保による利益の確保だ。データ活用の場、意思決定の場にマイノリティが参加していなければ、その事実が自社の評判を下げる。評判が下がれば、顧客が自社の商品やサービスを利用しなくなり、経済的な損失になるというのだ。そのため、自身の特権を手放してでも、意思決定の場にマイノリティを呼ぶことで、評判と利益を守る必要がある。

もう1つは人材確保だ。同氏は「IT企業に勤める人々は、テクノロジーを使って社会的に正しいことをしようと思っています。最近では、自社の方針が倫理的でない場合に、デモなどの行動に出る人たちもいます。つまり、優秀な人材に自社に居続けてもらうために、企業は倫理的でなければならないのです」と話す。

IT企業だけではない。例えば建設業界のエンジニア採用にAIを使う場合、これまでのデータをもとに良い人材を探すことになる。エンジニアには男性が多いため、AIは「良い人材=男性」という図式を踏襲してしまう。実際の能力ではなく、性別によって人材が選別されてしまうのだ。意思決定の場に女性が居れば、どのデータをどのように使うのか、良い人材の定義は何かなどを設定し、より適切なデータ活用をできるようになり、より良い人材を確保できる。

最後にバートレッティ氏は「データは万能、テクノロジーは万能と思わないでください。『適切なデータセットとは何か』という問いは政治的なものです。AIを有意義に使うためには、哲学者、歴史家など、多様なバックグラウンドの人材が必要です。『データ活用はすばらしい』かもしれませんが、誰にとって都合が良いのか考えてください。知らないうちに『自分にとって都合が良い』『男性にとって都合が良い』になっているかもしれませんよ」と語った。

【編集部注】本稿の著者Angela Love（アンジェラ・ラブ）氏はリーダーシップ開発のコンサルティング会社であるThe Daymark Groupの創設者。Fortune 50に名を連ねるスタートアップのリーダーやチームのために、明確さと成功を生み出す手助けをしている。

ーーー

新型コロナウイルス感染症（COVID-19）によって、ほぼすべての分野でデジタル変革（DX）の必要性が加速されたことは周知の事実だ。この状況下で、企業が成功を収めるために行っている活動は常に注目されている。しかし、企業がどのようにそれを行っているかについては、あまりわかっていない。

端的に言えば、イノベーションとデジタルソリューションの導入が爆発的に進む中で、倫理的配慮が犠牲になることは許されない。

これはモラルの問題でもあるが、同時に最終的な利益の問題でもある。社内外の利害関係者は、倫理的な境界を曖昧にする（あるいは無視する）企業に対して寛容ではなくなっている。このような現実は、組織のリーダーが新たな学習曲線、すなわち「設計段階からのエシックス（倫理）」を含むDXの取り組みを受け入れる必要があることを意味する。

倫理を後回しして生じる問題

エグゼクティブのライフスタイルやゴールデンパラシュート（敵対的買収を防止するために事前に経営陣や役員の退職金を巨額に設定しておくこと）の弊害を指摘するのは簡単だが、倫理違反のパターンは、リーダーシップだけではなく、会社全体の文化に起因することがほとんどだ。従業員個人の価値観に合致しているから（従業員が）倫理的な行動をとる、というのが理想的だが、最低限、倫理違反が組織に与えるリスクを理解しておく必要がある。

筆者の経験では、そのような議論は行われていない。コミュニケーション不足とか、ビジョンの欠如と言ってもいいかもしれないが、ほとんどの企業では、潜在的な倫理的リスクをモデル化することは、少なくとも公式には行われていない。議論があるとしても、上層部のメンバー間で、密室で行われることが多い。

倫理的な問題はなぜもっと大々的に扱われないのだろうか？答えの1つは、ビジネス上のヒエラルキーに関する従来の考え方を捨てたくないことかもしれない。また、積極的な姿勢が支配する強い（かつ皮肉なことに有害な）文化的メッセージに関係しているかもしれない。リーダーが「破壊的思考の文化を作りたい」と話す例もあったが、単にそれを「成長思考が不足している」と発言した従業員に伝えただけだった。

では、どうすればいいのだろうか？筆者が効果的だと思う解決策は3つある。

• 倫理観を組織の中核的価値観にする
• 透明性を確保する
• 倫理的な課題や違反に対処するための戦略を積極的に策定する

これらのシンプルな解決策は、DX以降の倫理問題を解決するために最適な出発点となり、リーダーが会社の中核をよく検討し、今後何年にもわたって組織に影響を与えるような決断をするきっかけとなる。

DXの分野では対人関係の力学が懸念される

DXは、本質的には技術的な作業で、AIやデータ運用などの分野の高度で多様な専門知識を持つ人材が必要とされる。この分野のリーダーには、困難な課題に取り組めるだけの複数のドメインを扱える能力が求められる。

ここに大きな課題がある。技術的に優れた人材を集めれば、専門用語を知らない人を委縮させ、質問することを躊躇させる専門知識に傲慢な文化が生まれるからだ。

DXは、単にインフラやツールの問題ではなく、本質的にはチェンジマネジメントの問題であり、健全な変革を実現するためには、多機能なアプローチが必要だ。企業が犯しうる最大の過ちは、技術的な専門家だけで議論するべきだと思い込んでしまうことだ。その結果、サイロ化が進み、エコーチェンバー（反響室）のようになって、倫理に関する会話ができなくなってしまう。

どれほど技術的な問題であっても、DXを急ぐ場合でも、基本的に人を第一に考えて解決しなければならない。

エシカルなDXには出発点が必要である

DXに関連する倫理的要請のすべてが「人を第一に考えなければならない」という提言のように議論の余地があるわけではない。中には「そこに到達するための出発点はここ」というような、もっと白黒がはっきりしたものもある。

幸いなことに「そこに到達する」のにゼロから始める必要はない。ガバナンス・リスク・コンプライアンス（GRC）の基準を利用することで、解釈の余地がほとんどない高度に構造化されたフレームワークを構築し、デジタルソリューションの設計と導入に向けた強固な基盤を準備することができる。

GRCモデルはスタートアップ企業にも多国籍企業にも有用で、単なるガイダンス以上のものを提供する。よく検討してGRC基準を適用すれば、リーダーシップの評価、進捗報告、リスク分析にも利用できる。ボウリングのバンパーのように、ストライクは保証できないものの、ボールが絶対に溝に落ちないようにすることが可能になる。

GRCベースのフレームワークの作り方を知らない企業もあるかもしれない（ボウリングのバンパーを作れと言われても困るのと同じ）。そのため、多くの企業が、IBM OpenPages、COBIT、ITILなどのあらかじめ製作された基盤を提供している。これらの「スターターキット」に共通する目的は、組織が属する業界や組織に関連するポリシーや統制を特定し、そこから重要なコンプライアンスポイントに線を引くことである。

一般的にクラウドベースで開始されるGRCプロセスは、少なくとも部分的には自動化されているが、組織全体の意見と透明性を必要とする。特定の部門による主導や、厳密なトップダウン方式では、効果的な運営はできない。実際、GRC基準の導入に際して理解しておくべき最も重要なことは、組織のリーダーシップと組織全体の文化の両方がGRCの方向性を完全に支持しない限り、GRCはほぼ確実に失敗するということだ。

倫理を優先する考え方が従業員と利益を守る

経営者、起業家、インフルエンサーなど、今日の社会におけるリーダーは、デジタル競争に「勝つ」ことだけを考えるべきではない。変革は短距離走ではなくマラソンのようなものだが、いずれにしても技術が重要である。競争上の優位性という最終目標を達成するためには「何を行うか」と同様に「どのように、なぜ行うか」が欠かせない。

これは、組織のすべての部門に当てはまる。オーナーや従業員などの内部の利害関係者は、倫理に対する周縁的アプローチを黙認することで、自分のキャリアや評判を危険にさらす。顧客、投資家、サプライヤーなどの外部の利害関係者も、内部の利害関係者と同様に多くのものを失う。この事実をお互いに理解しているからこそ、業界・業種を超えた透明性の追求が可能になる。

自身の監視下での倫理的堕落を許容した個人や企業に対する大規模な攻撃を観たことがあるだろう。同じような経験をするリスクを完全に排除することは不可能だが、リスクを管理することはできる。危険なのは、DXの「技術面から目をそらす」ことによって、全体像を見渡せなくなってしまうことだ。

このリスクを軽減し、真に倫理的な方法でデジタル時代の課題に立ち向かおうとする企業は、組織の内外で、倫理性、透明性、包括性の意味についてシンプルに話し合うことから始める必要がある。そして、必要に応じて行動を起こし、組織全体で先入観を持たずにその会話をフォローしていく。

組織がかつてないほど急速に活動し、変化している今、イノベーションの遅れを心配するのは賢明だが、適切なすべての倫理的配慮を行う時間はある。それを怠ると組織の先行きは危うい。

関連記事
・倫理的データ慣行の青写真を描くための4つのステップ
・社会貢献するテクノロジー企業に投資するVCが増えない理由
・【コラム】パブリッククラウドにおけるセキュリティ課題の解決に向けて

カテゴリー：その他

タグ：コラム、倫理、DX

画像クレジット：Janis Lacis / Getty Images

［原文へ］

（文：Angela Love、翻訳：Dragonfly）