Tesla（テスラ）とSpaceXのCEO、Elon Musk（イーロン・マスク）氏は、人工知能の開発に対してまたしても警告を発した。これらの企業の経営トップであり創設者でもあるマスク氏は、2月17日の夕方、「高度なAIを開発しているすべての組織は規制されるべきだ。テスラも含め」とツイートした。
これは、2015年に、Sam Altman（サム・オルトマン）氏、Ilya Sutskever（イリヤ・サッツケバー）氏、Greg Brockman（グレッグ・ブロックマン）氏、Wojciech Zaremba（ウォジェック・ザレンバ）氏、John Schulman（ジョン・シュルマン）氏とともにマスク氏が設立した団体OpenAIに関するMIT Technology Reviewの新しい記事へのマスク氏の返答だ。当初、OpenAIは初期の投資家たちから調達した10億ドル（約1100億円）を元手に非営利団体としてスタートし、高度なAI開発を一部の狭量な利益を追求する人たち（営利目的のハイテク企業など）の手に渡してしまわないよう、社会的利益のためのオープンな研究を可能にすることを目指していた。
OpenAI should be more open imo
— Elon Musk (@elonmusk) February 17, 2020
イーロン・マスク「OpenAIはもっとオープンになるべきだと思う」
イーロン・マスク「高度なAIを開発するすべての組織は規制されるべきだ。テスラも含め」
2015年に設立された当時、OpenAIの理念は「傍観者でいる」や「規制当局の監視強化を求める」といった考えに対抗するものとして合意されているとマスク氏は信じていた。2017年には、AI開発を管理するためには規制を導入すべきだが、ルールを提案する前に、業界を研究し見識を高めるための何らかの監視機関を組織する必要があるとの考えを示している。
そうした年月の間に、いろいろな変化が起きた。OpenAIもそのひとつだ。2019年には非営利法人が所有する営利部門として公式に再編された。そして、Microsoftから10億ドル（約1100億円）の投資を受け、幅広い提携関係を結んだ。設立当初の原則と矛盾する動きだ。
MITの記事に対してマスク氏が今週発表したコメントでは、理想そしてより現実的な役割のために共同創設者として設立に協力したOpenAIから、彼自身がずいぶん離れてしまったと話している。さらにSpaceXの創設者でもある彼は、Microsoftとの提携が発表された際にOpenAIの使命に対して「根拠のある」懸念を「認めざるを得ない」と述べ、「OpenAIはもっとオープンになるべき」と主張した。またマスク氏は、「OpenAIにはまったく手が出せず、どうなっているかもごく限定的にしかわからない」と話し、AIの安全な開発が保証できるかという点に関して、OpenAIの研究ディレクターDario Amodei（ダリオ・アモデイ）氏への彼の「信頼」も「高くない」と言っている。
高度なAI開発を規制せよという全体的な主張の中にテスラも含めるというマスク氏の姿勢は大変な驚きに感じられるだろうが、それは人工知能開発全般に対する彼の立場と矛盾しない。マスク氏は、孤立した環境で高度なAIが生み出されることへの危険性を繰り返し警告してきた。それは「人類文明の存続を根底から脅かすリスク」と主張するまでに至っている。
また彼は、2月17日にフォロワーからの明言を求める質問に対して、高度なAIの開発は個々の国で規制すると同時に、国連などの国際的な管理機構でも規制すべきだという考えを明らかにした。AIの潜在的脅威に関しては、マスク氏の信念は時が経ってもまったく鈍っていない。おそらくそれが、彼の力となって、対等に活躍できる場を人類にもたらすというNeuralink（ニューラリンク）との共同研究を促進させることになるのだろう。
画像クレジット：Chris Carlson / AP
[原文へ]
（翻訳：金井哲夫）