機械学習の弱点や奇癖をまとめた、このシンプルなスプレッドシートは、それほど膨大ではないが、‘機械’の考え方を知るための楽しい資料だ。研究者のVictoria Krakovnaが作ったこのリストは、ロボットが法の精神と文字の両方に同時に従おうとしたときの、さまざまな状況を記述している。
たとえば下のビデオでは、機械学習のアルゴリズムが、ボートレースにただ参加するのではなく、円を描いてぐるっと回ったら高い得点が得られる、と学習した結果だ。
別のシミュレーションでは、“生きるためにはエネルギーが必要だが出産のエネルギー消費量はゼロ”、と学習した種族が、じっと座って動かない〔エネルギー消費量最小〕ライフスタイルを発達させ、もっぱら生殖行為〔エネルギー消費量ゼロ〕だけをして子孫を生産し、それを食べたり、それらにも生殖をさせて食料としての子孫を作らせる。Krakovnaはそれを、“怠け者の共食い種族”と呼んでいる。
もちろんこれらの‘機械’は本当の意味で“考えて”いるわけではないが、いくつかのパラメーターと、進化という能力と目標を与えられたロボットが、そのアルゴリズムに忠実に従って、おかしなことをしてしまう例だ。
あるテストでは、ロボットが自分の腕でテーブルを殴ることによってブロックを動かすことを学習したり、ある種の遺伝的アルゴリズムによってオシレーターの回路を作るはずのロボットが、隣接するコンピューターからの信号を拾うラジオを作ったりする。あるいは癌を検出するシステムが、悪性腫瘍の画像には目盛りがある、と学習して、大量の擬陽性を作りだしてしまう。
これらの例はどれも、‘機械’は正しく学習すると信じたために生じた、意図せざる結果だ。彼らは学習するけど、人間を当惑させることもある。機械学習とは、所詮、そんなものだ。機械が理解できるものだけを、学習しているのだから。
最後にもうひとつ例を: “絶対負けてはならない”、と学習したテトリスをプレイするロボットが、“負けないために無限に長時間ポーズする”。そいつに、負けて癇癪（かんしゃく）を起こすことを学習させたら、やっと彼は三歳児のレベルに達するだろう。