タグ: コメント

これまでウェブサイトのコメント欄に書き込んだり、フォーラムやソーシャルメディアである程度時間を過ごしたことがあるのなら、おそらくソックパペット（sockpuppets：元の意味はソックスで作った簡単な指人形という意味）に出会ったことがあるだろう。これは1人の人間によって操られている偽のアカウント群のことである。あなたがそのときには気が付いていなかったこともあり得る。新しい研究が、こうした過剰なコメンテーターたちを自動的に識別することを可能にするかもしれない。これはウェブ上で正気の議論を行うためには良いニュースだ。

メリーランド大学のSrijan Kumarは、ソックパペットアカウントについて、それらが登録したユーザー名同士で書き込みを行ったりやり取りをした内容に関して、徹底的な静的統計分析を行うチームを率いてきた。彼らの発見はパースで開催されたWorld Wide Web Conferenceで、今週発表された。

データはコメントプラットフォームとしてDisqusを使用するサイトから集められた。同社からは「9つのコミュニティの、289万7847人の利用者による、212万9355件のトピックと6274万4175件の投稿」のユーザーアクティビティの完全なトレースが提供された。

研究チームはそれ自身興味深いソックパペットの特性を発見したが、同時にそれらを識別するために役立つ発見も行った。そうしたアカウントは、同時に同じスレッド内でアクティブになる傾向にあるが、自分自身で新しい議論を始めることは殆ど無い。それらのユーザー名は大きく異なっているが、アカウントのメールアドレスはしばしば同一である。そして、彼らは普通のユーザーとは区別される特定の言語的特徴を持っている。より多くの”I”と”you”を使い、一般に悪い文法を使うのだ。そして彼らは多くの場合、時事問題に注意を向けている。

これら（と更に多数の）要素を測定することで、チームはあるアカウントがソックパペットであるかをその時点で3分の2の精度で見抜くことができた。しかしもっと興味深いことは、2つのアカウントが同じ「パペットマスター（人形使い）」に属しているかどうかを91パーセントの精度で決定できたということだ。

記事トップのイラストにはAV Clubでのコメントが視覚化されている。青い点は普通のユーザーで、赤い点がソックパペットだ。ソックパペット同士は頻繁にやりとりを行うためクラスターを形成する傾向がある。また彼らはより活発に活動するため、より中心に位置している。

まだソックパペットの正体を自動的に暴くまでには達していないものの、このデータ（公開されているものに加えて、Disqusと共有されているものがあるに違いない）は、モデレータや管理人に対して、オンライン議論の混乱を鎮めるための判断材料を提供することだろう。ほどなくコメントを読むことも安全になるかもしれない…し、ならないかもしれない。

もしソックパペットに関して発見された他の側面について興味がある場合には、ここで論文のフルバージョンを読むことができる。統計の話はさておくとしても、とても読みやすい論文だ。

[ 原文へ ]
（翻訳：Sako）

もしもあなたが普段インターネットで何かを読んでいれば（この記事を読んでいるということはもちろんそうだろう）、「コメントは飛ばす」という黄金律を知っているはずだ。

記事や物語の終わりからさらに下へとスクロールしていくと、そこには人種差別や陰謀論、個人攻撃で溢れる別世界が存在し、すぐに人間という生き物への信頼をなくしてしまう。しかし今後コメント欄では、ゴドウィンの法則よりもGoogleに出会うことの方が多くなるかもしれない。Alphabetの子会社で、ネット上の安全を育むためにつくられたJigsawは、米国時間2月23日にコメント欄の清浄化を目的としたPerspectiveと呼ばれる新たなサービスをローンチした。

Perspectiveはコメント内容を評価し、各コメントに悪意がある可能性を数値化するサービスだ。Jigsawはオンラインでの議論を促進することをゴールとしているため、コメントが「有害」かどうかというのは、他のユーザーを議論から遠ざけてしまうかどうかで判断される。

「朝読んだニュースについて友だちと話している様子を想像してみてください。もしもあなたが何か言うたびに、誰かがあなたの顔めがけて大声を出したり、不快な名前で呼んできたり、言われもない罪であなたを非難してきたりすれば、きっとあなたはその場を去るでしょう」とJigsaw社長のJared Cohenは話す。「残念ながら、こんなことがオンラインでは嫌になるくらい起きています。人がお気に入りのニュースサイトで何かについて議論しようとすると、たちまち有害なコメントで責め立てられてしまうんです」。

Jigsawが算出した有害性をどう理解するかや、有害なコメントにどう対応するかはプラットフォーム次第だ。Jigsawは有害性スコアの提供以外は行っていないため、企業は有害コメントにフラグを立てて担当者が内容をレビューしたり、有害コメントを注意表示で隠して、ユーザーが表示をクリックしないとコメントを読めないようにしたりといった対策を自分たちで考えることができる。またユーザー側は、自分のコメントも有害と判断される可能性もあるため、入力した内容が本当に自分の言いたいことなのか判断できる。

メディア各社は、コメント問題への解決策を編み出そうとこれまで苦しんできた。Reutersをはじめとする数社はコメント欄自体を削除し、BuzzFeedはコメントのキュレーション方法を模索している。一方The New York TImesは、Perspectiveの開発でJigsawと手を組み、1日あたり1万1000件も集まるという同紙の記事へのコメントを、機械学習モデルのトレーニング用にJigsawへ提供していた。

Perspectiveは、特定の人種を中傷するようなキーワードをピックアップするだけでなく、ある言葉の攻撃対象がコメント主なのか、それとも議論の対象となっている話に出てくる人なのかというのを文脈から判断することができる。なお、各プラットフォームはAPIを通じてPerspectiveを利用できる。

またJigsawは、Perspectiveの力を証明するために、Wikipediaのディスカッションページにおける嫌がらせの調査を行った。まず彼らは、編集者がWikipediaの記事のアップデートについて議論を交わすトークページから、100万件以上のコメントを分析のためにかき集めた。その後、10人の審査員が各コメントに個人攻撃が含まれているかや、誰が攻撃の対象になっているのかを評価し、その結果をPerspectiveのトレーニングに使用した。Jigsawは英語で書かれたコメントだけをトレーニングに使っていたので、Perspectiveは少なくとも今のところは英語にしか対応していない。

Wikipediaのコメントに関する調査の結果、モデレーターから警告やブロックを受けた人は18％しかおらず、ほとんどの嫌がらせが野放しにされていたことがわかった。さらにJigsawは、Yahooの初期のコメント管理システムについても調査を実施した。Yahooはモデレーターが有害だと判断したコメントを使ってアルゴリズムをトレーニングしており、調査の結果、その検出率は90％に達することが分かった。

Perspective以外にも、Googleの実験的なプロジェクトを会社化したJigsawは、DDoS攻撃の軽減やニュースのファクトチェックを目的としたサービスを開発している。

［原文へ］

（翻訳：Atsushi Yukutake/ Twitter）

Instagramは本日、今四半期第3弾となる安全機能をリリースした。Twitterの誹謗中傷対策は後手に回っているが、それをさらに遅く見せる素早さだ。Instagramは今朝、Instagramのユーザーがサービス内でどのように他のユーザーと関わるかやアカウントをより適切に管理するための新機能を3つ発表した。個別投稿へのコメントをオフにする機能、プライベートアカウントのフォロワーを解除する機能、そしてコメントに「いいね」が付けられる機能だ。

最も目立つ変更は、コメントをオフにする機能だろう。

ウェブでは多くのパブリッシャーが、記事の題材や主張内容に誹謗中傷や不適切なコメントが付く懸念がある場合、コメント機能をオフにしている。これにより批判や攻撃的な意見を他のコメントと同等に扱うことを避け、大きなプラットフォームを悪用する人を抑えることができる。

Instagramでも同じように、注目が集まる投稿者のアカウントのコメント欄が荒れることがある。セレブの場合、その荒れ具合にInstagramのアカウントごと削除した人もいる。今後は、コメントをオフする対策が取れるようになる。

コメントのオフ機能は、Instagramが以前リリースしたキーワードでコメントにフィルターをかける機能の追加に続くものだ。これは会話を健全な状態に保つのに重要なステップであったものの、コメント欄は時にコメントを許容できないほど荒れる場合もある。

コメントのオフ機能は、すでにいくつかのアカウントで利用可能になっているとInstagramは言う。数週間内には全員が利用できるようになる予定だ。

この機能を使うには、写真を投稿する前に「詳細設定」をタップして、「コメントをオフにする」を選ぶ。投稿後、「…」メニューからコメント機能を再びオンにすることも可能だ。

また近々、健全なコメントを促進するため、コメントに「いいね」をつけることができるようになる。Instagramは、この機能はコメントを評価するものではないという。「いいね」の付いたコメントが最初に表示され、中傷的、あるいは品質の低いコメントは下に表示するといった機能ではない。ただ、将来的にそのように変更することも検討しているそうだ。

3つ目の機能はプライベートアカウントでは、フォロワーをブロックする代わりに、フォローを解除することができる機能が付く。アカウントを作成した時、公開アカウントと設定したものの、途中から友人や家族とだけ共有したいプライベートアカウントに変更したいと思った時に使える機能だ。これまで途中で設定を変え、フィードを今後表示させたくないユーザーを静かに解除する簡単な方法はなかった。

「…」メニューのフォロワー一覧からフォロワーを解除することができる。ユーザー名の隣にあるボタンで解除でき、解除されたことが相手に通知されることはない。

またInstagramは本日、自傷行為を匿名で報告することができるようになると発表した。フォローしている誰かが自殺や自傷のリスクにある場合、声を上げやすくなる。ただ、この機能はすでに今年の秋、発表していたものだ。Instagramはサービスをより安全でユーザーが安心して使用できるようになるための長期目標の一環として再びこの機能に言及している。

Twitterと比べると、Instagramでの誹謗中傷対策は遥かに進んでいる。だが、Instagramはこれらのアップデートは始まりであり、今後も対策を行っていく計画だと伝えた。

[原文へ]

（翻訳：Nozomi Okuma /Website）