タグ: Abuse

ロボットも人間のように偏見を持つ、防ぎ方も人間集団と同じ

カーディフ大学とMITの研究者たちによる、おもしろい研究によれば、複数のロボットが一緒に仕事をするとき、偏見が生じることがある。チームワークをシミュレーションするロボットたちが、他のチームのロボットに対する偏見を表現した。研究者たちによると、“自動機械のグループが、お互いの振る舞いを単純に認識し、コピーし、学習することによって偏見が現れる”。

その理論をテストするために、研究者たちは、シミュレーターの中で簡単なゲームをした。そのゲームでは、評判や寄付の戦略に基づいて、外部の集団や、ロボットの個人的グループに寄付を行なう。そして、内部への寄付と外部への寄付を比較して、偏見のレベルを調べる。そのシミュレーションを動かすと、徐々に、外部に対する偏見が増えていった。

研究者たちは、シミュレーターの中で偏見を成長させることが、容易であることに気づいた。だからそれは、ロボットだけによる何かの自動運転をするときは、注意しなければならない問題だ。

カーディフ大学のRoger Whitaker教授は、こう述べている: “われわれのシミュレーションは、偏見が自然の強い力であり、それは進化して、容易に、仮想ポピュレーションの中で報奨により強化される。そしてそれにより、他者との幅広い接続性が損なわれる。偏見のあるグループから守ろうとして別のグループが、意図せずして偏見的になることもある。その結果、その仮想ポピュレーションに分裂が生ずる。偏見のそのような拡散は、逆転が困難である。差別を認識して他をコピーできる自動機械が、将来的に、人間の中に見受けられるような偏見的な現象に影響されてしまうことも、ありえる”。

おもしろいことに、“ひとつのポピュレーションの中に、はっきりとした違いのあるサブポピュレーションが多ければ多いほど”、偏見は減少する。これは、人間の偏見に関しても考えるべき、重要なポイントだ。

“サブポピュレーションの数がとても多ければ、偏見のないグループが共同して、搾取もいじめもされずに協力しあえる。これはまた、マイノリティーとしてのステータスを弱め、偏見の影響を受けにくくする。しかしながらこれは、成員が、自分たちのグループの外部との対話に向かう、より高い気質を持っている情況を必要とする”、とWhitaker教授は述べている。

[原文へ]
（翻訳：iwatani(a.k.a. hiwa）

Twitterがさらに多くの“組織的な情報操作に関わった”アカウントを停止

“組織的な情報操作に関わった”として先週284のアカウントを停止したTwitterが今日（米国時間8/27）、同じ理由で486のアカウントを停止した、と発表した。合わせて合計770のアカウントになる。

先週削除されたアカウントの多くはイランからのようだったが、今回停止されたアカウントは、そのうちの約100が、アメリカからを名乗っていた、という。その多くが1年足らずの若いアカウントで、いずれも“分裂をもたらすような”意見をシェアしていた。これら100のアカウントは867回ツイートを行い、各回に1268のフォロワーがいた。

Twitterは、複数のアカウントの“分裂をもたらすような意見”の実例を、スクリーンショットでシェアしている。それらは反トランプ的で、‘Twitterは共和党系のアカウントををターゲットにしてて不公平だ’、とする保守的主張に反対している。

Twitterによると、停止されたアカウントの中には、昨年Twitter上の広告に30ドルを使ったが、その広告はアメリカをターゲットとせず、課金アドレスがイランではない広告主がいた。

Twitter自身のSafetyアカウントは、こう言っている: “この前の調査と同様、われわれは他の企業や適切な法執行機関と協力している。われわれの目標は、これらの活動を調べる調査者をアシストし、できるかぎり、われわれの努力をめぐるコンテキストを透明性をもって開示することである”。

これまで何年間も、いじめやボットやそのほかの悪用に対し同社のポリシーを強力に適用しない、と非難されていたTwitterが、数か月前から急に、問題あるアカウントに対して強硬姿勢を示すようになった。アメリカなどではユーザー数の伸びにブレーキをかけるにもかかわらず、Twitterは積極的にアカウントを停止した。その中には、前に停止されたアカウントの別名アカウントによる復活もある。

Twitterの発表によると、第二四半期に月間ユーザー数が100万減少した。1億ドルの利益を上げたにもかかわらず、投資家たちはパニックになった。決算報告の中でTwitterは、これまで数千万のアカウントを停止したが、その多くは新しすぎたり、あるいは1か月以上も不活なアカウントなので、アクティブユーザー数に影響を及ぼさない、と説明した。ただし同社は、そのスパム対策措置によって月間アクティブユーザーを300万失ったことを認めた。

ユーザー数への影響がどれだけあっても、Twitterは悪用対策を講じたことによって、9月5日に行われる上院諜報委員会の聴聞会で面目を保つだろう。その聴聞会では、TwitterとFacebookとGoogleの役員が、Mark Warner上院議員らに、外国がアメリカの政治に影響を与えるために彼らのプラットホームを利用している件について、問いつめられるだろう。

[原文へ]
（翻訳：iwatani(a.k.a. hiwa）

Facebook、「Fighting Abuse @Scale」カンファレンス開催で姿勢を見せる

誤情報や詐欺、スパム等を阻止する取組みをアピールすることに必死のFacebook は、“Fighting Abuse @Scale”と題した招待制のカンファレンスを4月25日にサンフランシスコで開催する。FacebookのほかにAirbnb、Google、Microsoft、LinkedInから講演者が参加して、偽ニュースの阻止、偽造アカウント作成の抑止、ハニーポット（おとりシステム）を使った敵対組織の破壊、プラットフォームの安全強化のための機械学習の利用方法などについて議論する。

［アップデート：正式発表はされていないが、すでにカンファレンスは満席となった。Facebook広報によると、これは当初本誌が報じたような急遽企画されたイベントではなく最初の招待状は2月6日に送られていた。しかし、開催までひと月を切った時点で急遽報道を呼んだ行動は、現在進行中のデータ不正利用と選挙妨害スキャンダルに対するFacebookの取組み姿勢と一致している。

Fighting Abuse @Scaleカンファレンスはサンフランシスコのウェストフィールドモール内のBespoke Event Centerで開かれる。当日は、Facebookが今日選挙不正防止計画に関する電話会議で発表した先行的AIツールの技術的詳細を聞けることを期待している。この最初のセッションは「Facebookの誤情報と戦う」と題され、同社の技術部長とデータサイエンティストが登壇する予定だ。

過去にFacebookは、似たタイトルの“Fighting Spam @Scale” カンファレンスを2015年5月および大統領選挙直後の2016年11月に開催している。しかしそれ以来、同ソーシャルネットワークに対するいら立ちは限界に達した。ロシアの選挙妨害、有権者に対する誤情報の発信、Facebook Liveでの暴力、永遠に続くサイバーいじめ問題、および最近のCambridge Analyticaデータプライバシースキャンダルといった問題が反発の集中を呼んだ。株価の暴落、元幹部による同サービスの社会への影響に対する批判、CEO Mark Zuckerbergのメディア謝罪ツアーなどが続く中、Facebookはこれが単なる広報の問題ではないことを示す必要がある。ユーザーや規制当局や現在と将来の社員に対して、会社が責任をもってプラットフォームを改善しようとしていることを見せなくてはならない。

[原文へ]

（翻訳：Nob Takahashi / facebook ）

Instagram、自分の投稿にコメントできる人を選択可能に

月間ユーザー8億人、日間ユーザー5億人の節目を祝ったInstagramが、迷惑コメントを防止するコメント管理機能を公開した。新しいツールは、Instagramに公開アカウントを持つユーザーが、コメントできる人を特定のグループやフォロワー、自分がフォローしている相手などに限定できるものだ。さらに、公開、非公開アカウント共に、特定のアカウントをブロックしてコメントできなくすることも可能になる。

これは、プラットフォーム上での嫌がらせ行為を防ぐ取り組みの一環であり、Instagramでは著しく攻撃的なコメントをブロックする自動フィルターも改善し、新たにアラビア語、フランス語、ドイツ語、およびポルトガル語のコンテンツにも対応する（これまでは英語のみが対象だった）。同社はこのシステムが時間を経て利用が増すことによって改善を続けると言っている。これは機械学習を使用していることを踏まえるとうなずける。

さらに同社は、5月に導入した心の病にかかわる支援の必要なユーザー向けに作られた機能も拡張した。もしあなたがInstagramを利用中に、誰かがライブビデオで救いを必要としているのを見付けたら、匿名で通報することができる。するとInstagramがそのユーザーにメッセージを送り、援助の手を差し伸べるとともに電話相談その他の支援サービスを紹介する。このプログラムは5月に一般投稿を対象にスタートしたが、このたび対象がライブビデオにも拡張された。

[原文へ]

（翻訳：Nob Takahashi / facebook ）

Twitterの卵アイコン廃止は、迷惑ツイート削減には役立たず?!

ツイッターの世界に嫌がらせ（ないし迷惑）ツイートがあるのは誰もが知っての通りだ。迷惑ツイートを行う利用者を一時的ないし永久に追放するような対策もとられてはいるが、どうも効果を示していない様子。

そうした中でTwitterは、少々的外れに見える対策をとるにいたった。すなわち、これまでの卵アイコンを放棄してみようと考えたのだ。

TLNRなブログ記事によれば、Twitterを利用し始めたばかりの人に割り当てていた卵アイコンを、上半身のシルエットを描いたユニセックスなアイコンに変更することにしたとのこと（訳注：ブログ記事の投稿日付は3月31日）。

Twitterでは2010年以来、新たなアカウントでは卵アイコンが表示されるようにしていた。いまではこの卵アイコンはすっかりTwitterブランドの一部として認知されるまでになっている。熱心なTwitter利用者ならずとも、Twitterの卵アイコンは知っているという人も多い。CNNなどで政治家やセレブのツイートを映すとき、画面には卵アイコンが表示されることも多い。

今回の変更についてTwitterはいろいろな理由を挙げて説明している。個性のない一般的なアイコンを使えば、利用者が独自のプロフィール画像をアップロードしたくなるのではないかというのは、確かに一理あるところかもしれない。

ただ、迷惑ツーとの解消のため、というのはどうだろうか。

迷惑ツーとをする人の多くが卵アイコンであることは事実かもしれない。「ネガティブな振る舞いをする人と卵アイコンには関連があるように見える」と、Twitterは考えているようなのだ。

しかしそれは事実だろうか。

おそらくは、卵アイコンから発せられた迷惑ツイートが、新しいアイコンから発せられるようになるに過ぎないように思われる。デフォルトアイコンの変更は、傷を覆い隠す絆創膏のようなものに過ぎず、結局のところ迷惑ツイートを減らすようなことにはならないと思われる。

どのようなアイコンが用いられているにせよ、迷惑ツイートは迷惑ツイートで、そして卵アイコン以外からの迷惑ツイートも多数存在しているのだ。

Twitterは、役に立たない「対策」のために、自らが生み出した独自のキャラクター（卵アイコン）を葬り去ることになってしまうわけだ。@リプライやいいね導入のときと同様に、小手先のことにこだわっているように見えなくもない。

問題は卵アイコンではないのだ。より根本的で実効的な解決策を講じるべきだと思われる。

［原文へ］

（翻訳：Maeda, H）

Twitter、迷惑行為を警察などに通知しやすくする報告書配信オプションを実装

Twitterは昨年末、Twitter上での暴言や脅しなどの嫌がらせに対応するための仕組みの充実に乗り出した。そして今回、対策を一歩進めて、嫌がらせを受けた利用者が警察などの法執行機関に対応を依頼しやすくするためのツールを実装した。

新しい機能は「手軽に利用する」ものではない。また、Twitter上での操作により、直ちに警察に通報するようなものでもない。Twitterに嫌がらせ行為などについてレポートする場合に、オプションがひとつ追加されることとなったのだ。すなわち、Twitterに対する報告処理の最終画面に、報告書のコピーを受信するための仕組みが追加されたのだ。

報告書のコピーを受信することにすると、Twitterから嫌がらせツイートの本文およびURL、およびツイートした相手のユーザー名、発言された時刻などの情報がメールで送られてくる。このメールには被害を受けた側のアカウント情報も含まれる。Twitterからの公式アナウンスはこちらのブログにある。

送られてくるメールの末尾にはTwitterの「捜査当局向けガイドライン」へのリンクが記載されている。このページには非公開アカウントの情報をTwitterに請求する仕方なども記されている。

「暴力に訴える旨の脅しなどについても、厳格に対処したいと考えています。適切であると判断すれば、関連アカウントの停止措置などを行います。但し、身体に危害が及ぶ可能性などを感じるようなケースでは、警察などに通報することを強くおすすめします」と、Twitterは言っている。「Twitterは、脅迫行為に関連する情報をまとめたレポートをお渡しします。そのレポートを警察に提示することにより、的確なアクションを迅速に行えるようにと考えています」。

Twitterでは匿名アカウントも認められており、これまでにも暴言や脅しをなくすためのさまざまな行動がとられている。先にも触れた通り、12月にも対策が強化されている。その際には他の利用者をブロックする仕組みに改良が加えられたり、迷惑行為の報告に対するレスポンスタイムの短縮を行なっていた。

また2月には、いやがらせ常習者の電話番号を入手して対応を行うというプランも発表された。もちろん迷惑行為を行う側は、簡単に登録された電話番号と紐付いていないアカウントを新たに作ることができ、対策としては不十分なものではある。さらに新規アカウントの登録時、電話番号の入力は必須ともなっていない。ただ、これらの方針について、今月頭くらいから対策の強化が行われているようではある。たとえば、匿名ブラウザであるTorの利用者に対してはアカウント作成時に電話番号入力う必須にするというようなこともあったらしい（Twitterによると、必ずしもこれは事実ではないらしい。Twitterとしては、さまざまな情報から判断して利用者の振る舞いがスパマー風であると判断した際に、電話番号の入力を必須としてもとめていたとのこと）。

Twitterはずっと迷惑行為に悩まされてきた。CEOのDick Costoloも、この件が成長の障害になっているという認識を示している。年初にリークされた内部メールでもCostoloは「Twitterは迷惑行為に対して適切に行動できておらず、しかもこれまでずっとそうだった」というようなことを発言している。「我々の対応力不足については世界中の人が指摘している。おかげで迷惑行為を受けた利用者がつぎつぎにTwitterを去るという事態になってしまった」と言っていた。

Twitterの迷惑行為に対する対応は、つい最近まで後手に回ることが多かったといって良いだろう。しかし有名人が被害を受けることで広く話題にのぼることともなり、Twitter側の対応が加速したようだ。たとえば#gamergate問題もあったし、ロビン・ウィリアムスの死後、氏の娘に対する嫌がらせ行為がはびこったこともあった。

Twitterによれば、メールによるレポート受信オプションは、全ユーザーに対して徐々に適用していくとのことだ。

［原文へ］

（翻訳：Maeda, H）