かつてMary Strathernは「指標が目的化すると、その数値は指標としての意味をなさなくなる（グッドハートの法則）」と語った。シェイクスピアに言わせれば、守るよりも破ったほうが名誉になるルールということなのだろうか。アルゴリズムが支配する私たちの社会では、多くの指標が目的に姿を変え、その意味を失っていった。この記事では本を例にとって、この問題について考えていきたい。
「No.1ベストセラー！」というのは、”集合知”を反映した高品質の証だ。つまりこれは指標であり、今日の世界では目標でもある。一体「No.1ベストセラー」とは現在どんな意味を持っているのだろうか？ Kindle Storeを見てみると……
If you wanted an example of how broken the Kindle Store is right now, take a look at the book at #1 right now. In the whole store @AmazonKDP pic.twitter.com/L9D3x3SJ5F
— David Gaughran (@DavidGaughran) July 14, 2017
Kindle Storeがどれだけ使えないか知りたければ、全体でナンバー1の本を見てみればいい。
……New York Timesのベストセラーリストはどうかというと……
New York Timesのベストセラーリストで第1位に輝いたヤングアダルト小説が同リストから抹消された。複数のヤングアダルト小説家がTwitter上で『少女探偵ナンシー』ばりの調査を行った結果、特定の書店で問題の小説が大量に事前予約されていたことがわかったのだ。
……と、「ベストセラー」という言葉は、もはやあまり大きな意味を持っていないとわかる。どうやらKindle StoreにしろNew York Timesにしろ、ベストセラーの称号はお金で買えるようなのだ（確かにNYTは問題に対処したが、調査を行った人たちがいなければ件の本はベストセラーのままだっただろう）。
ポスト真実の現代においては、これもあまり驚くべき話ではないのかもしれない。そもそも賞やランキングといったものは程度の違いこそあれ、人の手が加えられたものばかりだ。しかし今では、ランキングの多くがキュレーションなしでアルゴリズムによって決められるため、同じようにアルゴリズムの力を借りることで、簡単に操作できるようになってしまったのだ。そして世界中（もしくは少なくともアメリカ国内）で起きていることを見ればわかる通り、いずれこのような事件は政治的な問題へと発展していく。
プライドの高い作家は、New York TimesやWall Street Journal、Amazonのベストセラーリストの座をお金で買おうと試み、どうやらときにはそれが成功することもあるようだ。
その一方で、Amazonが偽レビューの取り締まりを行い、偽レビューを検知するサードパーティーのプラグインが配布されているかと思えば、気に入らない本に嘘のネガティブなレビューを残す”レビューの乱用”も横行している。真実と虚偽がせめぎ合う様子は偽ニュースの問題を彷彿とさせ、どちらが優位に立っているのか判別するのも困難な状況だ。
私は何冊か小説を出版していることもあり、この問題には個人的な思いがある。これまでにも知人から、私の本に5つ星のレビューを書くから、その人のアルバムに5つ星の偽レビューを書いてくれないかという類の話をされたが、いくばくかの嫌悪感を抱きながら全ての提案を断った。友人に良いレビューを残すよう頼んだことも一度もない。Amazonのレビューシステムをミシュランと勘違いしたのか、1つ星とともに激賞の言葉が並んだレビューにため息をついたこともある。人は嘘の称賛を嗅ぎ分けられると自分に言い聞かせてきたが、本当はそうではないのではないかと不安になる。
もちろん本のレビューに関する問題は、作家という一部の変わった人たちにしか関係のないことかもしれない。しかしそれ以外にも似たような問題は散見し、偽ニュース、偽科学、資格・スキルの詐称など枚挙にいとまがない。人はある指標を攻略しようと嘘をつき、指標自体を新しく考え出すことさえある。その指標も、証明できる事実や統計からソーシャルメディア上の繋がり、学歴、功績まで内容はさまざまだ。さらに情報過多の現代では、ただでさえ短いアテンションスパンを慎重に使うために、私たちは情報を選別するための第一歩としてアルゴリズムによる雑なフィルタリングに頼りがちだ。だがそうすることで、どれだけの真実が手からこぼれ落ち、逆にどれだけの嘘が監視の目をかいくぐって頭の中に入ってきてしまっているのだろうか？
しかし私たちには人工知能（AI）という名の一縷の望みがある。細かなパターンの認識や、目標にとってかわった粗雑な指標の代替というのはまさにAIの得意分野だ。ApectivaをはじめとするAI企業は、偽レビューを検知したり、本当のレビューから有用な情報を取り出したりするソフトを開発している。
もちろんAIにもバイアスや適合性、ブラックボックスの問題があるが、今私たちが直面している問題に比べれば大したことはない。未来のニューラルネットワークが、仕組まれたレーティングや偽レビュー、偽アカウントを認識できるようになることを祈ろう。ただそれも、AIが検知できないような偽レビューを書くAIが出てくるまでの話だ。こうして真実と虚偽のせめぎ合いは続いていく。
［原文へ］
（翻訳：Atsushi Yukutake）
