VMwareが機械学習計算をGPUなどで加速するBitfusionを買収

VMwareは米国時間7月18日、TechCrunchのピッチコンテスト「Startup Battlefield」に参加したことがあるBitfusion(ビットフュージョン)を買収したことを発表した。Bitfusionは、企業がGPUやFPGZ、ASICなどを使って行う複雑な計算負荷の高速化を助けるスタートアップ。4年前には、そのフォーカスはAIや機械学習よりもむしろハイパフォーマンスコンピューティングのほかの分野だったが、当然ながら近年ではAIやMLへの関心が増加したことで同社の方向性も変わった。

VMwareは、ベンダーやハードウェアを特定しないBitfusionの技術を利用して、同様の能力を顧客に提供していく。具体的には同社は、Bitfusionを同社のvSphereサーバー仮想化プラットフォームに統合する。

VMwareのCloud Platform Business部門の上級副社長でゼネラルマネージャーであるKrish Prasad(クリッシュ・プラサド)氏は「Bitfusionの買収が完了したら、ハードウェアアクセラレーターを仮想化することによってAIやMLのワークロードを支援していくVMwareの戦略がより強健になる。マルチベンダーのハードウェアアクセラレーターと、それらを軸とするエコシステムは、現代的なアプリケーションを動かしていくための基幹的部位だ。これらのアクセラレーターは場所や環境を問わず利用でき、オンプレミスでもクラウド上でもどちらでも使える」とコメントしている。

プラサド氏によると、GPUのようなハードウェアアクセラレーターを最大限有効利用するために多くの企業はそれらをベアメタルでデプロイしている。しかしVMwareの見解では、そういう使い方は(仮想化に比べて)低い利用率と効率を招きがちだ。「むしろハードウェアアクセラレーターは仮想化にきわめて適しており、リソースの共有を増してコストを下げる」と主張している。

両社とも、買収の価額を公表していない。Bitfusionは2017年に500万ドルを調達し、また2018年にはSamsung Ventures小から小額の戦略的投資を取得した。

[原文へ]

(翻訳:iwatani、a.k.a. hiwa

ディープラーニング・アプリケーションの開発〜デプロイ過程をシンプルに一元管理するBitfusion Flex

BitfusionがDisrupt NY 2015でローンチしたときは、GPUやFPGAなどのコプロセッサーを利用するコンパイル済みのライブラリをデベロッパーに提供してアプリケーションのスピードを上げる、というビジネスだった。それは2年前のことだ。今では、そんな技術の最大の市場が、ディープラーニングのモデルの訓練だ。同社がローンチしたときには、それらはレーダーに映っていなかった。でも、当然とはいえ、Bitfusionが今まさにフォーカスしているのが、その市場だ。

今日同社は、Vanedge Capitalがリードするラウンドによる500万ドルのシリーズA資金の調達を発表した。そのラウンドには、新たな投資家Sierra Venturesとこれまでの投資家Data Collective, Resonant VC, そしてGeekdomが参加した。同社の計画では、このお金は研究開発の強化に投じられ、そしてとくに、AIプロジェクトの構築と管理を支える、フレームワークを特定しないプラットホームBitfusion Flexにフォーカスされる。

今ベータのBitfusion Flexは、デベロッパーが単一のプラットホーム上でAIアプリケーションのライフサイクル管理ができるようにする。デベロッパーは単一のダッシュボード上で開発、訓練、そしてデプロイまでも実行し管理できる。内部的にFlexはコンテナを使って実験やモデルを複数のローカルマシンやクラウド間で容易にスケールし移動できるようにしているが、しかしベアメタル上のデプロイもサポートしている。

ただしFlexは、モデリングそのものを容易にしてくれるわけではない。TensorFlow, Torch, Caffeなど、フレームワークの選択とセットアップはアプリストア的なインタフェイスでできるが、その強みは、これらのアプリケーションを作って動かすために必要なインフラストラクチャの管理にある。したがってFlexは、フレームワークのことは気にしないし、またアプリケーションをどこへデプロイするのかも気にしない。

このサービスを利用して行う工程の管理は、Web上(ブラウザー上)のインタフェイスからでもできるし、またコマンドラインインタフェイスからでもできる。そしてたとえば開発時には、リモートのGPUをローカルなラップトップから使ったりできるのだ。

BitfusionのCEOで協同ファウンダーのSubbu Ramaはこう語る: “ディープラーニングのプロジェクトは、現状ではプロトタイプから先へ進めない人が多い。今は至るところで猫も杓子もディープラーニングをやりたがるが、Global 2000社には人がいない”。そこでBitfusionはFlexでもって、インフラストラクチャの管理という面倒な仕事を抽象化し、企業がやっと雇えたデータサイエンティストたちがアプリケーションに集中できるようにする。

Flexのベータ終了は数か月後の予定だ。オースチンに本社のある同社は、今後シリコンバレーでのプレゼンスを大きくしたい。ただし研究開発の多くは今後もずっと、オースチンでやっていきたい、という。

[原文へ]
(翻訳:iwatani(a.k.a. hiwa))

高価なGPUやFPGAなど特殊ハードウェアをクラウド上で安価に利用できるBitfusionのCloud Adaptorサービス

img_9558

今年の本誌主催TechCrunch Disrupt NYのStartup BattlefieldでデビューしたBitfusionは、アプリケーションが高性能なハードウェアの上で走る場合、ジェネリックで平凡なコードを実行させず、そのハードウェアの性能をフルに使って動けるようにする。デスクトップの場合はもちろんだが、これからは、特殊で高性能なコンピューティングクラウド(“スーパークラウド”)上でもそれができる。

同社の最初のプロダクトBoostは、ライブラリをマシンのハードウェアに合わせて最適化することによって、既存のアプリケーションを高速化する。これまで非公開アルファだったBoostはこのほどベータに移行したので、誰もがここで登録できる。

Bitfusionの協同ファウンダでCEOのSubbu RamaとCTO Maciej Bajkowskiによると、初期のユーザは機械学習やデータサイエンスのプロジェクトにBoostを使ってみて、感激している人が多いそうだ。今のところBoostが対応しているアプリケーションは、Blender, ImageMagick, Octave, Matlab, Torchなどだけだが、今後はもっと増やしたいと同社は言っている。

同社は、Boostをメインのプロダクトと見なしているが、これまでBitufsion Labsの実験的プロジェクトだったCloud Adaptorは、さらにエキサイティングなプロダクトだ。

2015-11-24_1032

デベロッパがCloud Adaptorを利用すると、本来ローカルマシンのために書いたアプリケーションが、クラウドの上でもGPUやFPGAにアクセスできる。アプリケーションは自分が高度なハードウェアを揃えたラップトップの上で実行されていると思い込んでいるが、実際にはそれらのデバイスはクラウドにある。

Ramaは語る、“Cloud Adaptorはわれわれにとって、Boostの次に当然取り組むべき課題だった。Boostはインノード(in-node)のアクセラレーションを提供するが、でも自分のマシンに適正なデバイスがなかったら、そこでお手上げになる”。

しかしCloud Adaptorのコマンドラインツールを使えば、デベロッパはたとえばAWSやRackspace、SoftlayerなどのクラウドのGPUにアクセスでき、またRackspaceと共同開発したBitfusionのクラウド上のFPGAにもアクセスできる。

ふつう、デベロッパがAltera FPGAにアクセスするのは容易ではないが、このサービスを利用するとクラウド上のそれらを簡単に利用できる。あるいは、IntelがAltera FPGAを内蔵したXeonチップを出すまで待つか、だ。

もちろん、違いがはっきり現れるのは、デベロッパがそういう特殊なハードウェアをフルに利用するアプリケーションを書いた場合だ。デベロッパは、APIの呼び出し回数に応じて課金される。

RamaとBajkowskiによると、これまでのデベロッパはGPUやFPGAsの利用を前提とするコードを、書くことはできてもテストすることができなかった。でもこのCloud Adaptorを利用すれば、高価なハードウェアを買わなくてもクラウド上で自分のアプリケーションを動かせる。

このサービスによって、高度なハードウェアを利用するアプリケーションを書くデベロッパ人口が一挙に増える、とBitfusionは期待している。

[原文へ]。
(翻訳:iwatani(a.k.a. hiwa)。

アプリケーションとライブラリをハードウェアの特性に合わせて最適化・高速化するBitfusion…元Intelの三名が起業

bitfusion11

今日のコンピュータは一般的にとても高速だが、アプリケーションの多くは、自分たちがその上で動くハードウェアプラットホーム向けに最適化されていない。ほとんどのライブラリがジェネリックなプラットホーム用にコンパイルされており、たとえば個々のCPUの固有の機能を有効に利用していない。

今日(米国時間5/1)TechCrunch Disrupt NYでデビューしたBitfusionは、デベロッパに代わってそのような最適化を行い、そのソリューションの最初の一回の適用でアプリケーションのスピードを10%から最大で60%は向上させる。それは、多くのアプリケーションが依存している著名なオープンソースのライブラリの、すでに最適化されているバージョンを選んでビルドするだけ、というソリューションだ。同社がねらっているターゲットは、製薬企業や生物情報科学関連の企業、それにデータ分析のソフトウェアなどだ。

同社はテキサス州オースチンで、元Intelの社員三人が創業し、今日はData CollectiveとResonant VC、およびGeekdomから145万ドルのシード資金を調達したことを公表した。Geekdomは、RackSpaceのファウンダや投資家たちが運営している投資企業だ。

ファウンダたちはIntel時代に、チップの設計からパブリッククラウドのインフラストラクチャ、スーパーコンピュータなど、あらゆるものを手がけた。CEOのSubbu Ramaが前に創ったSocialStockは、2012 Disrupt NYのBattlefieldでファイナリスト(決勝進出)になった。

Ramaは曰く、“ハードウェアとソフトウェアを一緒に同じテーブルの上に乗せたいのだ。うちは、ハードウェアの最大有効利用という、これまでみんなが避けてきた分野に挑戦している”。

Bitfusionは、ライブラリの再コンパイルや再編纂、それに特殊なバージョンの収集などにより、各プラットホーム向けの最適化を行う。でもそれは、顧客基盤を築くための最初のステップにすぎない。Ramaはそのステップを、“簡単な部分”と呼ぶ。

チームは今後、CPUだけでなくGPUやFPGAも最適化の視野に入れて、パフォーマンスの向上を10%ではなく10倍にすることを計画している。同社によると、今日のハードウェアメーカーは、自分たちのチップのより強力な機能にアクセスするためのスタンダードに合意している。

たとえばいくつものグループが、ハードウェアアクセラレータと科学計算とのあいだの標準インタフェイスとして、OpenCLをプッシュしている。でも今日の現実としては、デベロッパたちはOpenCLのサポートに傾くことなく、CUDA、HAS、AVX2などなど、多様な競合APIに向かっている。Bitfusionのチームは、同社がアプリケーションとライブラリを、そういうデベロッパのために、そして彼らの往々にして特殊なチップのために最適化することによって、そのバラバラの世界に橋渡しができる、と信じている。

今後に関してチームがとくに期待しているのは、プログラマブルなチップFPGA日本語)だ。FPGAは特定の問題に合わせてプログラムできるし、また一般的にソフトウェアよりもハードウェアの方が高速だから、デベロッパは大きなスピードアップを実現できる。今日のFPGAは標準性に乏しいが、しかし大手半導体メーカーの一部は真剣にFPGAについて検討しており、CPUすら、一部をFPGA化することによってスピードアップとユーザの自由性の拡大を図ろうとしている。

もうひとつ、Binary translation日本語)も、アプリケーションのスピードアップのためにBitfusionが注目している技術の一つだ。

同社は主に企業を顧客にして、彼らの特定のニーズやアーキテクチャに合ったソリューションを提供しようとしている。今後はそういう顧客のデータセンター用として、ハードウェアアクセラレータを組み込んだアプライアンスを提供して行く計画だ。そして今同社は、RackSpaceと協働して、ユーザがアプリケーションのスピードアップを実現できるための高速化クラウドの構築にも取り組んでいる。

  1. bitfusion18.jpg

  2. bitfusion17.jpg

  3. bitfusion16.jpg

  4. bitfusion15.jpg

  5. bitfusion14.jpg

  6. bitfusion13.jpg

  7. bitfusion12.jpg

  8. bitfusion11.jpg

  9. bitfusion10.jpg

  10. bitfusion9.jpg

  11. bitfusion8.jpg

  12. bitfusion7.jpg

  13. bitfusion6.jpg

  14. bitfusion5.jpg

  15. bitfusion4.jpg

  16. bitfusion3.jpg

  17. bitfusion2.jpg

  18. bitfusion1.jpg

Disrupt Q&A:

Q: 市場規模はどれぐらい?
A: 社内にそういう技能のない中小の企業はたくさんある。アプリケーションの高速化が重要な、メディアや仮想現実の企業が、とくに狙い目だ。

Q: ビジネスモデルは?
A: 三つのビジネスモデルがある。ソフトウェアと、アクセラレータを組み込んだアプライアンスと、RackSpaceとの協働による高速化クラウドだ。

Q: それはプラグ&プレイか?
A: うちが開発している技術は、ソフトウェアで高速化を図ったライブラリの、世界最大の集合だ。それらのライブラリを、たとえば、機械学習や生物情報科学の分野のアプリケーション向けにデプロイしている。デプロイプロセスはすべて自動化されている。

Q: 大企業は相手にしないのか?
A: 大企業はハードウェアを自作できるし、自分たちの特殊なアプリケーションを最適化する技能もある。でも、大型データセンターの最適化、というレベルでは今すでに大企業の顧客もいる。

[原文へ]
(翻訳:iwatani(a.k.a. hiwa