今日(米国時間8/22)の午後Microsoftは、クラウド上で遅延のほとんどないディープラーニングを動かせるFPGAベースのシステム、Brainwaveを発表した。初期のベンチマークによると、IntelのStratix 10 FPGAsを使った場合Brainwaveは、大きなGated Recurrent Unit(GRU)の上でバッチなしで39.5 Teraflopsを維持できる。
MicrosoftはこれまでFPGAに注力し、FPGAの大きなクラスターを同社のデータセンターでデプロイしている。アルゴリズムはFPGAに書き込まれ、高い効率を得るとともに、プログラムの書き換えを容易にしている。FPGAのこのような専用化により、機械学習、とくにそのための並列処理が効率化される、と期待されている。
これらの成果を踏まえてMicrosoftは、FPGA中へ専用プロセッサーDPU(Dataflow Computing Unit)ないしDNN(Deep Neural Network)プロセシングユニットを合成した。このようにディープニューラルネットワークにフォーカスすることによってMicrosoftは、そのインフラストラクチャを研究のニーズに応じて高速化し、リアルタイムに近い処理を提供できる、と期待している。
FPGA自体はレトロな技術だが、最近ではその開発対応の素早さが見直されている。FPGAに取り憑かれているかのようなスタートアップMipsologyは、Amazonと密接に協働して、Amazon Web Servicesやそのほかのプラットホームでその技術を使えるよう、努めている。
これまでの数十年間が汎用CPUとその進化の過程だったとすると、最近の数か月は汎用の逆の、特定のタスクに秀でたカスタムチップに開発の主力が移行している。そして中でもとくにその注力が厚いのが、機械学習のための専用チップだ。
いちばん知名度が高いのが、GoogleのTensor Processing Unit、TPUだ。このチップはTensorFlow向けに最適化され、初期のベンチマークは将来有望と見なせる結果だった。しかしそのほかの主要テクノロジー企業も、その多くがサイドプロジェクトとして未来のコンピューティング、量子チップやFPGAなどに取り組んでいる。そして大企業がそうなら、スタートアップもそのゲームに参加しようとする。RigettiやMythic、Waveなどが、そんなスタートアップの例だ。
BrainwaveがMicrosoft Azureの顧客にいつから提供されるのか、それはまだ不明だ。現時点でこのシステムは、人気の高いGoogleのTensorFlowと、MicrosoftのCNTKに対応している。同社はこの技術を利用して、ディープラーニングのパフォーマンスを画期的に向上させるつもりだから、今後もさまざまなベンチマークが相次いで発表されることだろう。