AIが物珍しい見世物のような研究プロジェクトの域を脱して、GPT-3のような業界の原動力になるほどの巨大な範型がいくつか登場してくるにともない、この分野にも進化が必要になってきた。そう考える元Open AIの研究担当副社長Dario Amodei（ダリオ・アモディ）氏は、数カ月前に彼自身の企業を立ち上げた。Anthropicと名づけたその企業は、彼の妹のDaniela（ダニエラ）氏が創業者で、人間による操作と理解が可能、そして堅牢な大規模AIシステムの開発を目指している。
アモディ氏らが取り組む目下の問題は、そうした極めて強力なAIシステムが、よく理解されないまま使われていることだ。彼らが関わったGPT-3も、驚くほど多彩な言語システムで、ほぼどのような話題に関するどのような文体のテキストでも、本物そっくりに作り出す。
関連記事：Copy.aiのAI利用記事作成システムは「使える」レベルの驚異的な出来、日本語も対応
シェイクスピアやアレクサンダー・ポープの作例を見せて、韻を踏む二行連句を作らせてみよう。AIはどうやってそれを作るのか？AIは何をどう「考えて」いるのか？もっと悲しくてあまりロマンチックでない詩を作らせるには、どのノブとダイヤルをどれだけ回せばよいのか？言葉遣いや使用する語彙を一定方向に制限するには、何をどうすればよいのか？確かに、人間が値を変えることができるパラメータは随所に用意されているだろう。でも実際には、この極めて本物っぽい言葉のソーセージがどのように作られているのか、誰もよく知らない。
AIがいつ詩を作れるようになるかはどうでもよいとしても、それが百貨店で怪しい行動をウォッチしたり、これから判決を言い渡そうとしている裁判官のために判例を見つける仕事ならどうか。今日の一般的なルールでは、システムが強力になればなるほど、その行動を説明するのは困難になる。しかしそれは、あまり良い傾向ではない。
同社の自社紹介文にはこう書かれている。「今日の大規模な汎用システムには有意義な利点もありますが、予測不可能で信頼性を欠き、不透明なこともあります。弊社の目標は、こういった問題に関して進歩を作り出すことです。当面の間、主にこの目標に向かう研究に力を入れますが、将来的には、私たちの仕事が商用的価値と公共的価値を作り出す多くの機会があると予見しています」。
Excited to announce what we’ve been working on this year – @AnthropicAI, an AI safety and research company. If you’d like to help us combine safety research with scaling ML models while thinking about societal impacts, check out our careers page https://t.co/TVHA0t7VLc
— Daniela Amodei (@DanielaAmodei) May 28, 2021
2021年は、AIの安全性を研究する@AnthropicAIで仕事をしてきたことを発表できてうれしい。安全性の研究とMLモデルのスケーリングを、社会的影響も考えながら組み合わせることに関して、私たちを助けたいという方は、弊社の求人ページanthropic.com/#careersをチェックしてください。
同社の目標は、今日の効率と処理能力が優先されるAIの開発に、安全性の原則を統合することのようだ。どんな産業でも、何かが最初から一体化されている方が、後から端っこにネジで取り付けるよりも簡単だ。今、存在する巨大なAIシステムを分解して理解しようとする試みは、構造の細部が最初からわかっているものを構築することと比べて、仕事量が膨大になるだろう。Anthropicは、後者を選んだようだ。
CEOのダリオ・アモディ氏は、同社とその1億2400万ドル（約136億2000万円）の資金調達を発表する短いポストで次のように述べている。「Anthropicの目標は、今よりも有能で汎用的で信頼性の高いAIシステムを開発し、それらを人びとのために展開していくための基礎研究の高度化していくことにある」。
その資金調達は、読者も予想したかもしれないが、投資家たちの顔ぶれが豪華だ。ラウンドをリードしたのはSkypeの共同創業者Jaan Tallinn（ジャン・タリン）氏、他にはInfotechのJames McClave（ジェームズ・マクレーブ）氏、FacebookやAsanaの共同創業者Dustin Moskovitz（ダスティン・モスコビッツ）氏、Googleの元CEOであるEric Schmidt（エリック・シュミット）氏、そしてCenter for Emerging Risk Researchなどの団体となる。
同社は公益法人であり、同社サイトの限られた情報によればその事業プランは、大型AIシステムの操作性と理解性の向上のための基礎研究となる。2021年中には、ミッションとチームが具体化し、初期的な成果が出るかもしれないため、より詳しい情報が得られるだろう。
ちなみに同社の社名は「anthropocentric（人間中心の）」に隣接したもので、人間の経験や存在との関連性を意味している。おそらく「anthropic principle（人間原理）」に由来するもので、宇宙に知的生命体が存在するのは、人間が存在するからだという考え方だ。適切な条件の下で知性が必然的に生まれるのであれば、企業はその条件を設定するだけでいい。
関連記事：GoogleのAIが新たなハイブリッド焼き菓子レシピを考案
カテゴリー：人工知能・AI
タグ：OpenAI、Anthropic、人工知能、資金調達
画像クレジット：DKosig/Getty Images
［原文へ］
（文：Devin Coldewey、翻訳：Hiroshi Iwatani）
