Project Brainwave
Microsoftは、「リアルタイムAI」実現のためのシステムとして
ディープラーニング用プラットフォーム「Project Brainwave」を
発表した。
MicrosoftではProject Brainwaveのプラットフォーム構築にあたって、
FPGAを活用している。データセンターに高性能FPGAを直接接続する
ことで、「CPUによるリクエスト処理」を省き、高いスループットを
実現している。
また、ソフトウェアDNN処理ユニット(DPU)を搭載しているが、
必要なデータタイプを選べるように設計してあり、柔軟性が
確保されているとのこと。
組み込んだソフトウェア・スタックは、一般的なディープラーニング
フレームワークをサポートしており、「Microsoft Cognitive Toolkit」と
「Tensorflow」には現時点でも対応済みで、今後は他のものにも
対応していく予定。
IntelのStratix 10を 用いて、リクエストを1ミリ秒未満で実行した
デモでは、39.5TFLOPSの性能を記録しており、10サイクルに1度
マクロ命令が出されることによって、1サイクルで13万回以上の
演算処理を維持できるとのこと。
