［アップデート: 論文の共著者の一人でFacebook社員であるAdam Kramerからのコメントを末尾に付け加えた］
最近、Facebookユーザーを対象に、本人の了解なく一週間にわたる感情操作実験が行われていた。予算の一部は陸軍から出ている。この研究は、ユーザーのニュースフィードの内容が、ユーザー本人の感情形成に影響を与えるかどうかを発見することを目的とし、歪曲されたコンテンツを見た後の投稿内容のトーンを測定することによって判断するものだ。
70万人近いFacebookユーザーが、ポジティブあるいはネガティブに偏ったコンテンツを見せられた。研究の結果、ポジティブなニュースフィードを与えられたユーザーはよりポジティブな内容を投稿し、ネガティブなニュースフィードを与えられたユーザーはネガティブな内容を書き込んでいたことがわかった。
驚きの結果か？ 疑わしい。倫理に反するか？ その通り。
忘れてならないのは、実験の影響を受けたのが、直接操作された人々だけではないということだ。報告書によるとポジティブおよびネガティブグループのユーザー15万5000人が、「実験期間中1回以上近況アップデートを投稿している」。つまり、何十万という近況アップデートが、〈ネガティブに誘導されたユーザーグループ〉から発信されたことになる。こうしたネガティブ投稿が、さらに同種の投稿を呼んだ可能性は高い。
要するに、感染は玄関では止まらない。
この実験が、2012年のある一週間、数十万人の日々を暗くする以上の影響を与えたのかどうか、われわれにはわからない。しかし、その可能性はある。そしてそれは、本件を問題視するのに十分な理由だ。自社のユーザーを、本人の知らないうちに感情操作の実験台にすることは、薄気味悪いどころではない。これは、明らかに非礼で危険な選択だ。
誰もが良い感情状態にあるわけではない。あらゆる時点で、かなりの人数のFacebookユーザーが、情緒的に脆弱な状態にある。ネガティブな影響を取けた人々の中には、打たれ弱い人々や若い人々もいる。本誌はFacebookに対して、13～18歳のユーザー調査対象から除いたかどうかを尋ねたが、まだ回答を受け取っていない。
良好な精神状態の人に、不必要な情神的負荷をかけることは思いやりのない行為である。激励や支援を必要としている人に対して行うことは、残酷だ。
平均的Facebookユーザーは、同社と不文ソーシャル契約のようなものを結んでいる。私はあなたのサービスを使い、あなたは私がシェアしたデータを使って広告を配信する。そこには、Facebookがユーザーのデータや信頼を悪用しない、という暗黙の紳士的行動が期待されている。今回のケースでFacebookは、両方を破った。ユーザーのソーシャルグラフを、情緒的強迫を起こさせる目的で使用したのだ。
誰もが企業に操作されている。広告は、その中でも露骨な例だ。他にも気付いていないものがいくらでもある。こうした操作が蔓延した結果、われわれは少々慣らされてしまっている。しかしだからといって、陰で行われている行き過ぎた行為をわれわれが指摘できない理由にはならない。もしFacebookがこの実験を許すなら ― 調査の筆頭著者はFacebookのコアデータサインスチームの社員 ― 将来何が許されることになるだろうか？
私は、Facebookがニュースフィードの内容を、平均的によりポジティブにすべきだと言っているわけではない。そんなサービスは耐えられない ― 人生の出来事はポジティブなものばかりではなく、友達や愛する人にデジタルな方法で同情できることは、人生経験の新たな部分だ。そしてFacebookは、これまで何度となく様々な理由でニュースフィードを操作することによって、ユーザー体験の改善をはかってきた。
それは極めて理にかなっている。意図的にユーザーの感情形成を歪め、ユーザーの許可なく安全対策もなく、興味本位にネガティブ情報を広めることは別問題だ。無責任だ。
FacebookのKramerからの返信を以下に引用する：
最近PNASで発表した研究について多くの人々から質問を受けた。われわれがこの調査を行った理由は、Facebookが感情に与える影響、および当社のサービスを利用する人々のことを大切に考えているからだ。われわれは、友達がポジティブな内容を投稿するのを見ることによって、人々がネカティブに感じたり、疎外感を受けるという、よく言われる心配事を調査すべきと考えた。同時に、友達のネガティブな発言を見ることによって、Facebookを利用しなくなるということ懸念もあった。研究の動機付けは、論文に明記してある。
方法に関して、われわれは上記の主張を確かめるために、ニュースフィードのコンテンツのごく一部について、最少限の優先順位変更を行った（記事中に情緒的単語があるかどうかに基づく）。実験は、一部のユーザー（約0.04%、2500人に1人の割合）に対して、短期間（2012年前半の一週間）実施された。「非表示」にされた記事はなく、単に一部のフィードで表示されなかった。それらの記事は、友達のタイムラインでは常に見ることが可能であり、後のニュースフィードに表示された可能性はある。そしてわれわれは、一般通念とは正反対の結果を得た。ある種の（ポジティブな）感情を見ることは、感情を高揚し、抑制はしない。
そして、対象ユーザーに与えた実際の影響は、統計的に検知し得る最小量だった ― 実験の翌週にそれらの人々が発信した内容に含まれる情緒的単語は、1000語あたり平均1語少なかった。
われわれがFacebookで行っている研究のゴールは、いかにしてより良いサービスを提供できるかを知ることにある。この実験を設計、実行した本人として、われわれのゴールは決して誰をも動揺させないことであると私は明言する。一部の人々がこの実験に懸念を持つ理由は理解している。私は共著者らと共に、論文の説明方法やそのために生じた不安について、大変申し訳なく思っている。今考えれば、論文のもたらした利益は、与えた不安を正当化していないかもしれない。
われわれは、実施する調査を注意深く検討しており、内部レビュー体制の改善にも取り組んでいる。この実験は2012年初めに実施されたものであり、その後様々な改善がなされれいる。今後のレビューには、この論文に対する反響から学んだことも含めていくつもりだ。
[原文へ]
（翻訳：Nob Takahashi / facebook）