TwitterとZoomのアルゴリズムに偏見問題が浮上

Zoom(ズーム)とTwitter(ツイッター)の両社は、偏見に関わるそれぞれのアルゴリズムの問題で先週末批判に晒された。Zoomの場合、ビデオ会議のバーチャル背景、ツイッターは写真のトリミングツールの問題だ。

始まりは大学院生のColin Madland(コリン・マッドランド)氏が、ある黒人職員のZoomに関する問題についてツイートしたことだった。マッドランド氏によると、その職員がバーチャル背景を使うと、Zoomが必ず彼の顔を消してしまうという。

「この問題を調査するためにそのユーザーと直接連絡を取った」とZoom広報担当者はTechCrunchに語った。「我々は全員を包括するプラットフォームを提供することに全力を尽くしている」。

しかしこの問題がツイッターで議論されると、ツイッターのモバイルアプリのプレビューに、デフォルトで白人男性のマッドランド氏の画像だけが表示されたことで、アルゴリズム偏見問題が複雑化した。

「当社のチームはシステム出荷前に偏見のテストを行っており、人種や性別による偏見の兆候は見られなかった」とツイッター広報担当者がTechCrunch宛の声明で語った。「しかし、より深い分析が必要であることはこれらの事例から明らかである。今後も我々が学習したことや起こすべき行動を公表し、分析結果をオープンソース化して他社が確認、再利用できるようにする」。

ツイッターは、同社の最高デザイン責任者であるDantley Davis(ダントリー・デイビス)氏が独自に行った実験に関するツイートを紹介した。デイビス氏はマッドランド氏のひげが影響したと推測(Twitter投稿)し、ひげを除去したところトリミングされたプレビュー画面に黒人職員の顔が表れた。その後のツイート(Twitter投稿)でデイビス氏は「これに怒りを感じているのはみんなと同じ。しかし、私はこれを修正する立場にあり、それを実行する」。

ツイッターは、カーネギーメロン大学の主任研究員であるVinay Prabhu(ビナイ・プラブー)氏の別の分析結果も紹介した。彼の実験は「トリミングの偏見が実在する」かどうかを見るためだった。

この実験についてツイッター CTOのParag Agrawal(パラグ・アグラワル)氏は、トリミングの偏見が事実であるかどうかは「極めて重要な問題」であると発言した(Twitter投稿)。つまり、ツイッターは黒人を消すことも消さないこともある。しかし、ツイッターがただ一度であれ、これをやってしまうだけで十分問題だ。

この件はできの悪いアルゴリズムがはびこっていることによるさらに大きな問題にもつながる。同様のアルゴリズムは黒人たちの偏見による逮捕や留置につながっている。Google(グーグル)が黒色人種の写真にゴリラのラベル(The Guardian記事)を付加したり、Microsoft(マイクロソフト)の人工知能 Tay(テイ)が白人至上主義者になっていた(VICE記事)こともあった。

関連記事:Algorithmic accountability

カテゴリー:ネットサービス

タグ:Twitter Zoom

画像クレジット:Stegerphoto / Getty Images

原文へ

(翻訳:Nob Takahashi / facebook

投稿者:

TechCrunch Japan

TechCrunchは2005年にシリコンバレーでスタートし、スタートアップ企業の紹介やインターネットの新しいプロダクトのレビュー、そして業界の重要なニュースを扱うテクノロジーメディアとして成長してきました。現在、米国を始め、欧州、アジア地域のテクノロジー業界の話題をカバーしています。そして、米国では2010年9月に世界的なオンラインメディア企業のAOLの傘下となりその運営が続けられています。 日本では2006年6月から翻訳版となるTechCrunch Japanが産声を上げてスタートしています。その後、日本でのオリジナル記事の投稿やイベントなどを開催しています。なお、TechCrunch Japanも2011年4月1日より米国と同様に米AOLの日本法人AOLオンライン・ジャパンにより運営されています。