タグ: SNS / ソーシャル・ネットワーキング・サービス（用語）

Facebookは、Facebookグループの管理者がオンラインコミュニティをより良く管理・運営できるように、グループ機能のアップデートを地道に行ってきた。最近では自動化されたモデレーション機能の提供 や白熱している議論に関するアラート機能といったリリースや、グループを抑制することを目的とした新しいポリシーの発表などが挙げられる。そして米国時間10月20日、Facebookは新たな2つの変更を発表した。今後は、ルールに違反したグループメンバーに対して、より厳格な措置を講じるとともに、新たな「Flagged by Facebook」（Facebookによるフラグ済）機能を使って削除プロセスの透明性を高めていく。

関連記事：フェイスブックが自動モデレーション機能などのグループ管理者向け新ツール発表

具体的には、Facebookプラットフォーム上のあらゆる場所で、Facebookのコミュニティ基準に違反したメンバーのすべてのグループコンテンツの、ランクダウンを開始するとしている。つまり、Facebook内で悪質な行為を行う者は、たとえグループそのもののルールやポリシーに違反していなくても、グループで共有したコンテンツの優先度がランクダウンしてしまう可能性があるということだ。

なお「ランクダウン」とは、そうしたメンバーが共有したコンテンツをニュースフィードの下の方に表示することを意味する。別名「ダウンランキング」とも呼ばれるこうした措置は、これまでもFacebookが、ニュースフィードへの掲載を減らしたいクリックベイトやスパム、さらには報道機関の投稿に対して、ペナルティを科すために行ってきたものだ。

また、Facebookは、ユーザーがFacebook全体でより多くの違反行為を積み重ねるにつれて、これらのランクダウンはより厳しくなるとしている。Facebookのアルゴリズムは、個々のユーザーに合わせてニュースフィードのコンテンツをランク付けしているため、このようなランクダウン措置がどの程度機能しているのか、あるいは機能していないのかを今後追跡するのは難しいだろう。

また、Facebookによると、このランクダウン措置は現在、メインのニュースフィードにのみ適用され、グループタブ内の専用フィードには適用されないということだ。

同社は、この変更によって特定のメンバーが他者の目に触れる機会が減ることを期待している。そしてこのルール違反に対するペナルティが、ユーザーの投稿、コメント、グループへの新規メンバーの追加、新しいグループの作成を制限することなどを含む現在のグループペナルティに加わると指摘している。

もう1つの変更点は「Flagged by Facebook」（Facebookによるフラグ済）という新機能の登場だ。

画像クレジット：Facebook

この機能により、グループ管理者は、Facebookによって自動的に削除フラグを立てられたコンテンツを、コミュニティに公開する前に知ることができるようになる。管理者はその後、コンテンツを自ら削除するか、Facebookの判断を受け入れるかどうかのためにコンテンツをレビューすることができる。もしFacebookの判断に異議がある場合には、コンテンツを残すべきだと考える理由について追加のフィードバックを添えてFacebookにレビューを依頼することができる。これは、自動モデレーションエラーを取り除く役に立つだろう。グループ管理者が関与してレビューを要求できるようにすることで、不必要な攻撃や削除が行われる前にメンバーを保護できるようになるだろう。

この機能は、コミュニティ基準に違反する投稿があった場合に「グループ管理者に投稿を報告」することができる従来のオプションに似ているが、管理者がより積極的にプロセスに関与できる方法を提供する点が異なっている。

Facebookにとって残念なことは、このようなシステムは、グループが積極的に管理されている場合にのみ機能する。残念ながらいつでもそうだとは限らない。グループに管理者がいたとしても、その管理者がFacebookをやめたり、グループの管理をやめたりした場合に、後任の管理者やモデレーターを任命しなければ、そのグループは大混乱に陥る可能性がある。特にそのグループ規模が大きければ大きいほど。4万人以上のメンバーを抱える大規模グループのあるグループメンバーは、彼らの管理者が2017年からグループ内で活動していないと語る。メンバーはこのことを知っていて、モデレーションがないことを利用して、時には好き勝手なことを投稿する者もいるという。

これは、Facebookのグループインフラがまだまだ未完成であることを示す一例だ。もし企業がプライベートグループのためのプラットフォームをゼロから構築する場合、たとえばコンテンツの削除方法やルール違反に対するペナルティなどのポリシーや手順が、何年もかけて追加されることはないだろう。それらは基盤となる要素だからだ。それなのに、Facebookは2010年に登場したグループ機能の中でとっくに確立されていなければならなかったプロトコルを今やっと展開しつつあるのだ。

画像クレジット：TechCrunch

［原文へ］

（文：Sarah Perez、翻訳：sako）

米国時間10月19日の午後、WSJ Tech Liveイベントで、元FacebookアプリのトップでCEOのMark Zuckerberg（マーク・ザッカーバーグ）氏の直属だったFidji Simo（フィジー・シモ）氏が、自分が以前在籍していたソーシャルネットワークを擁護した。Instacartの新CEOになった同氏は、イベントでフードデリバリーの未来について述べたが、質問では、最近のFacebookの内部告発者の議会での証言と、それが喚起した社会的関心についても尋ねられた。

関連記事：グローサリー配達のInstacartが新CEOにフェイスブック幹部のシモ氏を指名

シモ氏によると、Facebookが多くの人の生活に与える影響を考えるとセキュリティは重要だが、Facebookが批判を鎮めるために十分なことをやっていないのが心配だ、という。Facebookは世界最大のソーシャルネットワークとして複雑な問題に取り組んでいるにもかかわらず、まだ十分でない、と。

シモ氏は自分が最近離れたFacebookを擁護し「Facebookは、ユーザーの安全のために大金を投じている。また自らの社会的影響についても、業界屈指の詳細な調査研究を行っています。心配なのは、多くの人が『イエス』か『ノー』かの答えを求めることです。実際のところ、この問題は多くのニュアンスを含んでいます」と述べている

内部告発者のFrances Haugen（フランセス・ハウゲン）氏によると、ユーザーのエンゲージメントを優先するFacebookのアルゴリズムにより、人間よりも利益が重視されているという。シモ氏が警告するのは、問題がこれまで説明されてきたようにAかBか、人間か利益かといった、単純な二分法ではないということだ。シモ氏の説明によると、Facebookが行ってきた調査研究に基づいて成し遂げるべき変化は、何かのダイヤルを回して、突然、魔法のように問題が消滅するものではない。なぜならFacebookは基本的に、人間性の反映そのものであるからだ。

画像クレジット：Instacart

シモ氏によると、むしろFacebookの本当の問題は、Facebookが何かを変えるたびに、社会に重要な影響が及ぶことと、その在り方だ。そのためFacebookはついでに何かが起こってしまったではなく、Facebookの事業で問題が起こりそうな部分を判断し、そこをを事前に改善することが重要だ。

「トレードオフがあるときは、それは通常、2種類の社会的インパクト間のトレードオフだ」とシモ氏はいう。

彼女が挙げるかなり単純な調整の例は、ユーザーを怒らせるような投稿を事前に判断して、その種の投稿をあまり見せないようにすることだ。

ハウゲン氏が上院で証言したのは、Facebookのアルゴリズムがエンゲージメントを奨励するようになっていることだ。「いいね！」などのインタラクティブなアクションの多い投稿はより広く拡散され、ユーザーのニュースフィードで上位に表示される。しかしハウゲン氏によると、エンゲージメントが「いいね！」やポジティブなリアクションだけでなく、クリックベイトや人を怒らせるような投稿でも起こるため、アルゴリズムはそれらも優先してしまう。その結果、虚偽情報や悪質で暴力的なコンテンツなど、激しいリアクションを喚起するポストが広まる。

しかしながら、Facebook上の怒りはダイヤルを回して音量を下げるように簡単に減らすことはできない。もしそんなことをしたら、別のタイプの社会的インパクトが生じるだろうとシモ氏はいう

シモ氏によれば、そもそも大きな社会運動は怒りがつくり出すため、企業は多くの人の行動を左右するようなインパクトをどうやって変えるのか、という問題を抱えてしまう。

（しかしWSJの記事によると、そのような状況ではなかった。むしろアルゴリズムの加工によって個人の感情的なポストがプロたちの知的なコンテンツより優先されるようになると、発行者や政党などは怒りやセンセーショナリズムに迎合するポストを発表するようになる。記事によると、この問題を修復せよという提案に対しザッカーバーグしは抵抗している）

シモ氏によると「怒り」の問題はほんの一例にすぎない。「実際には、どんな問題でも常に別のタイプの社会的インパクトとのトレードオフになります。そんな状況に、長くいたためわかりますが、それは『社会にとって良いこと』vs.『Facebookにとって良くて利益になること』という単純な問題ではありません。実際の議論は常に、異なる種類の社会的インパクト同士の間にあります。それは私企業にとって非常に扱いづらい議論です」。

「だからFacebookは公的規制を求めているのだ」とハウゲン氏はいう。

「この部分でFacebookが長年規制を求めてきたのも意外ではない。立場を異にする複数の社会的インパクトがあるとき、私企業はどちらか一方の主張を味方することはできない。行司役を担うのは、政府がふさわしい」とシモ氏はいう。

最近増えているエビデンスによれば、Facebookの事業が社会に負の影響を与えていることはFacebook自身も社内調査などで理解している。そんな中でシモ氏は、Facebookを辞めたことを、Facebook内で起きていることが理由だとはしなかった。

むしろシモ氏は「Facebookにいた10年はあまり勉強しませんでした。Instacartへの移籍は、Facebook以外のいろいろなことを学べる良いチャンスだからです」という。

画像クレジット：Porzycki/NurPhoto/Getty Images

［原文へ］

（文：Sarah Perez、翻訳：Hiroshi Iwatani）

米国時間10月19日の午後、WSJ Tech Liveイベントで、元FacebookアプリのトップでCEOのMark Zuckerberg（マーク・ザッカーバーグ）氏の直属だったFidji Simo（フィジー・シモ）氏が、自分が以前在籍していたソーシャルネットワークを擁護した。Instacartの新CEOになった同氏は、イベントでフードデリバリーの未来について述べたが、質問では、最近のFacebookの内部告発者の議会での証言と、それが喚起した社会的関心についても尋ねられた。

関連記事：グローサリー配達のInstacartが新CEOにフェイスブック幹部のシモ氏を指名

シモ氏によると、Facebookが多くの人の生活に与える影響を考えるとセキュリティは重要だが、Facebookが批判を鎮めるために十分なことをやっていないのが心配だ、という。Facebookは世界最大のソーシャルネットワークとして複雑な問題に取り組んでいるにもかかわらず、まだ十分でない、と。

シモ氏は自分が最近離れたFacebookを擁護し「Facebookは、ユーザーの安全のために大金を投じている。また自らの社会的影響についても、業界屈指の詳細な調査研究を行っています。心配なのは、多くの人が『イエス』か『ノー』かの答えを求めることです。実際のところ、この問題は多くのニュアンスを含んでいます」と述べている

内部告発者のFrances Haugen（フランセス・ハウゲン）氏によると、ユーザーのエンゲージメントを優先するFacebookのアルゴリズムにより、人間よりも利益が重視されているという。シモ氏が警告するのは、問題がこれまで説明されてきたようにAかBか、人間か利益かといった、単純な二分法ではないということだ。シモ氏の説明によると、Facebookが行ってきた調査研究に基づいて成し遂げるべき変化は、何かのダイヤルを回して、突然、魔法のように問題が消滅するものではない。なぜならFacebookは基本的に、人間性の反映そのものであるからだ。

画像クレジット：Instacart

シモ氏によると、むしろFacebookの本当の問題は、Facebookが何かを変えるたびに、社会に重要な影響が及ぶことと、その在り方だ。そのためFacebookはついでに何かが起こってしまったではなく、Facebookの事業で問題が起こりそうな部分を判断し、そこをを事前に改善することが重要だ。

「トレードオフがあるときは、それは通常、2種類の社会的インパクト間のトレードオフだ」とシモ氏はいう。

彼女が挙げるかなり単純な調整の例は、ユーザーを怒らせるような投稿を事前に判断して、その種の投稿をあまり見せないようにすることだ。

ハウゲン氏が上院で証言したのは、Facebookのアルゴリズムがエンゲージメントを奨励するようになっていることだ。「いいね！」などのインタラクティブなアクションの多い投稿はより広く拡散され、ユーザーのニュースフィードで上位に表示される。しかしハウゲン氏によると、エンゲージメントが「いいね！」やポジティブなリアクションだけでなく、クリックベイトや人を怒らせるような投稿でも起こるため、アルゴリズムはそれらも優先してしまう。その結果、虚偽情報や悪質で暴力的なコンテンツなど、激しいリアクションを喚起するポストが広まる。

しかしながら、Facebook上の怒りはダイヤルを回して音量を下げるように簡単に減らすことはできない。もしそんなことをしたら、別のタイプの社会的インパクトが生じるだろうとシモ氏はいう

シモ氏によれば、そもそも大きな社会運動は怒りがつくり出すため、企業は多くの人の行動を左右するようなインパクトをどうやって変えるのか、という問題を抱えてしまう。

（しかしWSJの記事によると、そのような状況ではなかった。むしろアルゴリズムの加工によって個人の感情的なポストがプロたちの知的なコンテンツより優先されるようになると、発行者や政党などは怒りやセンセーショナリズムに迎合するポストを発表するようになる。記事によると、この問題を修復せよという提案に対しザッカーバーグしは抵抗している）

シモ氏によると「怒り」の問題はほんの一例にすぎない。「実際には、どんな問題でも常に別のタイプの社会的インパクトとのトレードオフになります。そんな状況に、長くいたためわかりますが、それは『社会にとって良いこと』vs.『Facebookにとって良くて利益になること』という単純な問題ではありません。実際の議論は常に、異なる種類の社会的インパクト同士の間にあります。それは私企業にとって非常に扱いづらい議論です」。

「だからFacebookは公的規制を求めているのだ」とハウゲン氏はいう。

「この部分でFacebookが長年規制を求めてきたのも意外ではない。立場を異にする複数の社会的インパクトがあるとき、私企業はどちらか一方の主張を味方することはできない。行司役を担うのは、政府がふさわしい」とシモ氏はいう。

最近増えているエビデンスによれば、Facebookの事業が社会に負の影響を与えていることはFacebook自身も社内調査などで理解している。そんな中でシモ氏は、Facebookを辞めたことを、Facebook内で起きていることが理由だとはしなかった。

むしろシモ氏は「Facebookにいた10年はあまり勉強しませんでした。Instacartへの移籍は、Facebook以外のいろいろなことを学べる良いチャンスだからです」という。

画像クレジット：Porzycki/NurPhoto/Getty Images

［原文へ］

（文：Sarah Perez、翻訳：Hiroshi Iwatani）

米国時間10月19日の午後、WSJ Tech Liveイベントで、元FacebookアプリのトップでCEOのMark Zuckerberg（マーク・ザッカーバーグ）氏の直属だったFidji Simo（フィジー・シモ）氏が、自分が以前在籍していたソーシャルネットワークを擁護した。Instacartの新CEOになった同氏は、イベントでフードデリバリーの未来について述べたが、質問では、最近のFacebookの内部告発者の議会での証言と、それが喚起した社会的関心についても尋ねられた。

関連記事：グローサリー配達のInstacartが新CEOにフェイスブック幹部のシモ氏を指名

シモ氏によると、Facebookが多くの人の生活に与える影響を考えるとセキュリティは重要だが、Facebookが批判を鎮めるために十分なことをやっていないのが心配だ、という。Facebookは世界最大のソーシャルネットワークとして複雑な問題に取り組んでいるにもかかわらず、まだ十分でない、と。

シモ氏は自分が最近離れたFacebookを擁護し「Facebookは、ユーザーの安全のために大金を投じている。また自らの社会的影響についても、業界屈指の詳細な調査研究を行っています。心配なのは、多くの人が『イエス』か『ノー』かの答えを求めることです。実際のところ、この問題は多くのニュアンスを含んでいます」と述べている

内部告発者のFrances Haugen（フランセス・ハウゲン）氏によると、ユーザーのエンゲージメントを優先するFacebookのアルゴリズムにより、人間よりも利益が重視されているという。シモ氏が警告するのは、問題がこれまで説明されてきたようにAかBか、人間か利益かといった、単純な二分法ではないということだ。シモ氏の説明によると、Facebookが行ってきた調査研究に基づいて成し遂げるべき変化は、何かのダイヤルを回して、突然、魔法のように問題が消滅するものではない。なぜならFacebookは基本的に、人間性の反映そのものであるからだ。

画像クレジット：Instacart

シモ氏によると、むしろFacebookの本当の問題は、Facebookが何かを変えるたびに、社会に重要な影響が及ぶことと、その在り方だ。そのためFacebookはついでに何かが起こってしまったではなく、Facebookの事業で問題が起こりそうな部分を判断し、そこをを事前に改善することが重要だ。

「トレードオフがあるときは、それは通常、2種類の社会的インパクト間のトレードオフだ」とシモ氏はいう。

彼女が挙げるかなり単純な調整の例は、ユーザーを怒らせるような投稿を事前に判断して、その種の投稿をあまり見せないようにすることだ。

ハウゲン氏が上院で証言したのは、Facebookのアルゴリズムがエンゲージメントを奨励するようになっていることだ。「いいね！」などのインタラクティブなアクションの多い投稿はより広く拡散され、ユーザーのニュースフィードで上位に表示される。しかしハウゲン氏によると、エンゲージメントが「いいね！」やポジティブなリアクションだけでなく、クリックベイトや人を怒らせるような投稿でも起こるため、アルゴリズムはそれらも優先してしまう。その結果、虚偽情報や悪質で暴力的なコンテンツなど、激しいリアクションを喚起するポストが広まる。

しかしながら、Facebook上の怒りはダイヤルを回して音量を下げるように簡単に減らすことはできない。もしそんなことをしたら、別のタイプの社会的インパクトが生じるだろうとシモ氏はいう

シモ氏によれば、そもそも大きな社会運動は怒りがつくり出すため、企業は多くの人の行動を左右するようなインパクトをどうやって変えるのか、という問題を抱えてしまう。

（しかしWSJの記事によると、そのような状況ではなかった。むしろアルゴリズムの加工によって個人の感情的なポストがプロたちの知的なコンテンツより優先されるようになると、発行者や政党などは怒りやセンセーショナリズムに迎合するポストを発表するようになる。記事によると、この問題を修復せよという提案に対しザッカーバーグしは抵抗している）

シモ氏によると「怒り」の問題はほんの一例にすぎない。「実際には、どんな問題でも常に別のタイプの社会的インパクトとのトレードオフになります。そんな状況に、長くいたためわかりますが、それは『社会にとって良いこと』vs.『Facebookにとって良くて利益になること』という単純な問題ではありません。実際の議論は常に、異なる種類の社会的インパクト同士の間にあります。それは私企業にとって非常に扱いづらい議論です」。

「だからFacebookは公的規制を求めているのだ」とハウゲン氏はいう。

「この部分でFacebookが長年規制を求めてきたのも意外ではない。立場を異にする複数の社会的インパクトがあるとき、私企業はどちらか一方の主張を味方することはできない。行司役を担うのは、政府がふさわしい」とシモ氏はいう。

最近増えているエビデンスによれば、Facebookの事業が社会に負の影響を与えていることはFacebook自身も社内調査などで理解している。そんな中でシモ氏は、Facebookを辞めたことを、Facebook内で起きていることが理由だとはしなかった。

むしろシモ氏は「Facebookにいた10年はあまり勉強しませんでした。Instacartへの移籍は、Facebook以外のいろいろなことを学べる良いチャンスだからです」という。

画像クレジット：Porzycki/NurPhoto/Getty Images

［原文へ］

（文：Sarah Perez、翻訳：Hiroshi Iwatani）