テック企業大手のサービスのアルゴリズムによる偏向を防ぐ法案を民主党が提出

民主党の議員たちが、巨大テクノロジー企業の表面下に潜んでいるアルゴリズムによる偏向(algorithmic biases、アルゴリズミックバイアス)を抑止する法案を提出した。そのAlgorithmic Accountability Act(アルゴリズム説明責任法)と呼ばれる法案は、民主党上院議員のRon Wyden氏(オレゴン州)とCory Booker氏(ニュージャージー州)が提出し、下院では民主党下院議員Yvette Clarke氏(ニューヨーク州)が提出者となる。

この法案は時宜を得ている。先月だけでも、Facebookは求人広告における差別的扱いで集団訴訟を示談に持ち込み、また住宅都市開発省からは住宅広告のターゲティングツールで同様の民事訴訟を提起された。この法案は年商5000万ドル以上の企業をが対象だが、100万以上のユーザーのデータを保持している企業はほとんどすべて、この要件に当てはまるだろう。

関連記事: 米住宅省が住宅広告におけるFacebookの広告ターゲティングを差別として告訴

米国時間4月9日、上院で提出されたダークパターンデザインを禁ずる法案(用語解説)と同じく、このアルゴリズム説明責任法(PDF)も監督省庁は連邦取引委員会(Federal Trade Commission、FTC)になる。そして法案によるとFTCは企業に、自分たちのアルゴリズムによる意思決定システムに対する「インパクト評価」を命じることができる。その評価は、自動化システムの中にある「正確性、公平性、偏り、差別、プライバシー、そしてセキュリティ」に関するありうる結果を査定し、問題が見つかった場合は修正を要求される。

法案に関する声明の中でBooker氏は、ユーザーに買う機会のない家や、就く機会のない仕事や、その存在を知ることのできない金融サービス等を提供する、テクノロジーの差別的実践を非難した。

Booker氏はこう言っている。「この法律は企業に、自分たちのツールの正確さや公平さ、偏り、そして差別を頻繁に評価することを要求する」。

大手テクノロジー企業の偏向は今やホットな話題だが、この問題に対する政党のアプローチはかなり違った角度からも行われている。米国時間4月10日、たまたま上院の司法小委員会が上院議員Ted Cruz氏を座長とするヒアリングを行った。Cruz氏は、FacebookやTwitterが右寄りのユーザーを冷遇しているとする、根拠のない主張を繰り返す共和党員たちのリーダー格の人物だ。

一方民主党の議員たちは、アルゴリズムによる偏向のプラットホーム以外の問題にも関心があるようだ。

Clarke下院議員はこう言っている。「大企業が彼らの自動化システムの意図せざる影響に背を向けないようにするアルゴリズム説明責任法は、21世紀のテクノロジーが確実に、疎外ではなく力づけのツールになるよう導く。そしてまた、すべての消費者のセキュリティとプライバシーを強化する」。

関連記事: ‘Hateful comments’ result in YouTube disabling chat during a live-streamed hearing on hate(ヘイトをめぐる公聴会にヘイトコメントが殺到、未訳)

[原文へ]

(翻訳:iwatani、a.k.a. hiwa

Facebook、トレンド記事の偏見疑惑を否定しつつ、手続きの改善を約束

shutterstock_140953558

Facebookは今日(米国時間5/23)、トレンド記事機能に関する公式質問、具体的には担当チームが過去数週間にわたり、保守的意見を抑制したり、一部の記事を恣意的に浮上させたりしたとする疑惑に回答した。

公開されたプレスリリースおよび、ジョン・スーン上院議員(サウスダコタ州・共和党)に直接送られた書簡((PDF)で、Facebookは疑惑を否定しつつも、批判を鎮めるであろう内部手続きの変更をいくつか発表した。

当社で調査した結果、トレンド記事に掲載された記事の選択に、組織的な政治的偏見の証拠は見つからなかった。実際、アナリストの報告によると、トレンド記事に採用された保守的記事と自由主義的記事の比率は事実上等しかった。

同時に、この種の調査で予想されるように、われわれの調査は、当社のガイドラインやポリシーの実施に関して、個別の不適切な行動や意図的でない偏見があった可能性を排除できない。

具体的にFacebookは、記事がいつ、どのように「浮上」「ブラックリスト化」されたか、「改変」、修正を要求されたかを調べ、その結果比率は「リベラルと保守で事実上等しかった」。

問題の一端は、告発につながった匿名の元トレンド記事編集者の証言にあるように、監視の欠如であり、要するに管理体制の悪さにある

手続きの変更の一つは、「レビューチームの管理と監視の強化」― おそらく、監視チーム自身の監視の強化だろう。なぜなら見張りの見張りは、編集チームが明らかな非編集環境に閉じ込められているこの種の状況では極めて重要だからだ。

形式的手続きの追加に加え、トレンド記事の選択手順も刷新される:

  • レビュワーが頼っていた巨大なRSSフィードリストは廃止される ― ただし、代わりに何で使用するのかは不明。
  • レビュワーは、トップ10ニュース会社内での順位(このリスト自体が前項の通りもはや存在しない)だけに基づいて「重要度」を割り当てることができなくなる。
  • Facebookのトレンド記事の「ヘルプセンター」ページが改訂され、機能の説明を正確にした ― 何らかのAIかアルゴリズムが決めていると思っていた人は、誤解を捨てられる。

ハッシュタグや地域ニュースがトレンド記事へと浮上する正確な手続きに興味のある人は、スーン上院議員への書簡を読まれたい。そこには従来知られていなかった詳細が記されているが、その多くはもはや陳腐化している。具体的な偏見疑惑 ― 例えば、Glenn Beck(この件に関する彼とFacebookとの面談について興味深い見解を書いている)に関する記事が抑制された ― についても言及されている。

[原文へ]

(翻訳:Nob Takahashi / facebook