機械学習のシステムはときどき人間をびっくりさせる…学習内容に忠実なだけで

機械学習の弱点や奇癖をまとめた、このシンプルなスプレッドシートは、それほど膨大ではないが、‘機械’の考え方を知るための楽しい資料だ。研究者のVictoria Krakovnaが作ったこのリストは、ロボットが法の精神と文字の両方に同時に従おうとしたときの、さまざまな状況を記述している。

たとえば下のビデオでは、機械学習のアルゴリズムが、ボートレースにただ参加するのではなく、円を描いてぐるっと回ったら高い得点が得られる、と学習した結果だ。

別のシミュレーションでは、“生きるためにはエネルギーが必要だが出産のエネルギー消費量はゼロ”、と学習した種族が、じっと座って動かない〔エネルギー消費量最小〕ライフスタイルを発達させ、もっぱら生殖行為〔エネルギー消費量ゼロ〕だけをして子孫を生産し、それを食べたり、それらにも生殖をさせて食料としての子孫を作らせる。Krakovnaはそれを、“怠け者の共食い種族”と呼んでいる。

もちろんこれらの‘機械’は本当の意味で“考えて”いるわけではないが、いくつかのパラメーターと、進化という能力と目標を与えられたロボットが、そのアルゴリズムに忠実に従って、おかしなことをしてしまう例だ。

あるテストでは、ロボットが自分の腕でテーブルを殴ることによってブロックを動かすことを学習したり、ある種の遺伝的アルゴリズムによってオシレーターの回路を作るはずのロボットが、隣接するコンピューターからの信号を拾うラジオを作ったりする。あるいは癌を検出するシステムが、悪性腫瘍の画像には目盛りがある、と学習して、大量の擬陽性を作りだしてしまう。

これらの例はどれも、‘機械’は正しく学習すると信じたために生じた、意図せざる結果だ。彼らは学習するけど、人間を当惑させることもある。機械学習とは、所詮、そんなものだ。機械が理解できるものだけを、学習しているのだから。

最後にもうひとつ例を: “絶対負けてはならない”、と学習したテトリスをプレイするロボットが、“負けないために無限に長時間ポーズする”。そいつに、負けて癇癪(かんしゃく)を起こすことを学習させたら、やっと彼は三歳児のレベルに達するだろう。

[原文へ]
(翻訳:iwatani(a.k.a. hiwa

ますます病的になっているインターネットの解毒を探求するEvolve Foundationが$100Mのファンドを創立

このところ悪いニュースばかりのようだが、しかし良いニュースもある。非営利団体Evolve Foundationが、テクノロジー隆盛の影で全世界的に広がっている孤独や生きがい喪失、不安や恐怖、怒りなどとたたかうためのファンドConscious Accelerator〔仮訳: 気づきの加速〕に1億ドルを調達した。

Matrix Partners Chinaの協同ファウンダーBo Shaoがこのファンドをリードし、世界の問題に対する人びとの意識を高めるようなテクノロジーを目指す起業家を、掘り出し、育成していく。

“ものすごくお金持ちの人がたくさんいるけど、彼らの多くは大きな不安にかられ意気消沈しているんだ”、と彼は語る。彼によれば、その大きな原因のひとつが現在のテクノロジーの使われ方、とくにソーシャルメディアのネットワークだ。

“多くの人に‘いいね!’される投稿をしなければならないという強迫が、不安を惹き起こす”、と彼は言う。“そして自分の投稿に、罠のように囚われてしまう。投稿して10分も経つと、何人‘いいね!’したか、コメントがいくつあったか、気になってくる。一種の、中毒症状だ”。

それをいちばん気にするのがティーンだ、と彼は指摘する。それは今では精神症状の一種とみなされ、Social Media Anxiety Disorder(SMAD)(ソーシャルメディア不安障害)という名前までついている。〔参考

“ソーシャルメディアは新しい砂糖や新しい喫煙だ”、とShaoは語る。

彼がソーシャルメディアと絶縁したのは2013年の9月だが、彼はこれまでの10年間、自分やほかの人たちの生き方をもっと良くするための方法を探求してきた。

彼の新しいファンドはMediumの記事で発表され、社会的善の最大化、テクノロジーがもたらしている問題への解を見つけることを目的とする。投資家への良いリターンが得られるものに投資するだけが、目的ではない。

Shaoは、自分がこれまで数十億ドル企業の著名なVCの一員として仕事をしてきた経歴を活かして、人びとの不安をなくし、多くの人がもっとしっかりとした人生を送れるようにするためのテクノロジーを見つけていきたい、という。

Conscious Acceleratorはすでに、瞑想アプリInside Timerに投資している。また、子どものメディア耐性や、混乱した社会への耐性を増進するための子育てアプリも企画している。

また、二人のUC Berkeley(カリフォルニア大学バークリー校)の学生が始めた、ロシアのボットや、政治的に悪質なTwitterのボットを見つけるプロジェクトにも、投資してよいと考えている。Twitterは最近、これらの問題に対する内部的無策ぶりが、批判されている。

“問題意識のある起業家に利用してもらうことが、このファンドの目的だ”、とShaoは語る。

[原文へ]
(翻訳:iwatani(a.k.a. hiwa