Zebraは、AMD Zebra™の主力ソフトウェアプラットフォームです。AIプログラム(ニューラルネットワーク[Neural Network])に対する推論を行い、FPGAに実装することで高速な演算処理(ハードウェアアクセラレーション)が可能になります。
OKIアイディエスは、アプリケーションのスループットとレイテンシのご要求に適したZebraのマルチイメージバッチ処理※1 を使い分け、お客様のトレーニング済みAIプログラムに対して最適なHWアクセラレートを行うとともに、AIプログラムの前処理・後処理や高速IO部も含め、FPGAに実装します。 周辺デザインを含めAIプログラムのFPGA実装は、OKIアイディエスにお任せください。
Zebraの特長は、大きく3点あります。特長を下記にご紹介します。
FPGA実装による処理の高速化(ハードウェアアクセラレート)
例:YOLOv4での処理時間は12[ms]※2 Alveo U50LVでの測定、画像サイズは416×416[pixel]
AIプログラムを複数同時に並行処理が可能
Zebra独自量子化後の精度低下は1%以下
ニューラルネットワーク | 精度(%)※3 |
---|---|
Inception-V2 | -0.8 |
Inception-V3 | -0.5 |
Inception-V4 | -0.4 |
ResNet152 | -0.7 |
ResNet50 | -0.5 |
VGG16 | -0.3 |
VGG19 | -0.1 |
YOLO-V2 | -0.8 |
YOLO-V3 | -0.1 |
Caffe, TensorFlow, PyTorch, ONNX, MXNET
新しい言語、フレームワーク、APIやツールは不要