製品
AI／DL開発・デザインサービスのご案内
はじめに
デジタルトランスフォーメーション（DX）の重要性が叫ばれ、わたしたちの生活に大きく関わり始めている「AI」。生産性の向上、効率化、人手不足の解消、そして技術継承など、様々な課題に対し、その解決の手段として期待されています。しかしながら、「AIって何ができるの？」「AIを使って何かをやりたいけど・・」と思われている方が、多くいらっしゃるのではないでしょうか。
当社OKIアイディエスは、お客様のAIプログラムの高速化・最適化や、エッジデバイスへの搭載、量産に向けたFPGA／SoCへの実装、いわゆる「AI／DLアクセラレーション」が業態の中心ですが、従来の“モノづくり”の商品開発プロセスに、“AIを組み込みたい”というAI開発プロセスを加えた新たな開発プロセスが必要であると感じており、その実現に向け取り組み始めました。
OKIアイディエスが考えるAI開発を含めた商品開発フロー
わたしたちは、3年ほど前から「AIアクセラレータサービス」と称し、AI関連の案件の獲得に取り組み始めました。
スライドの“FPGA／SoCへの実装”にあたる部分が、そのサービス領域でした。AI開発のプロセスを明確化していくと、その上流の工程には「AIモデル開発」がありました。この「AIモデル開発」のフロー、プロセスを理解することによって、AIモデルのFPGA／SoCへの実装を、より最適に行うことができると考えています。FPGA／SoC への実装においては、FPGA／SoC固有の制限や制約がある場合があるので、FPGA／SoC設計の勘所を持つ技術者が、AIモデルの開発段階で参画することにより、さらに効率的な開発を進めることが可能になります。
OKIアイディエスが考えるAI開発を含めた商品開発フロー
また、AIモデル開発のプロセスにおいては、各プロセスに特化した業態でサービスを展開されている企業が多くあります。つまり、AI開発は、各プロセスに特化した業態でサービス展開されているため、システムトータルでの課題を把握し、適切にAIの組込みや提案ができる知識、技術を持ったインテグレーターが求められています。当社は、AIパートナーシップというような形で、各社と協業形態もとりながら、お客様の製品化を見据えた形で、「AI搭載機器の商品開発」をサポートしていきたいと考えております。
OKIアイディエスが提案するエッジAI開発とアクセラレータ
ここで、エッジAIが求められている市場について考えてみると、自動運転やドローン、監視カメラや工場での良品、不良品の監視、そして医療現場といったように、直ぐに結果が必要で、装置を置けるスペースも少ないような環境が多いと言えます。
そのため、エッジAIの装置には、装置自体のコンパクトさや消費電力の少なさ、そして高い性能、低遅延が求められています。
そのようなエッジAIの開発は、下記左の図“エッジAI開発”に示すように、2つのステップで行われています。
即ち、装置に要求される機能を満たすための“AIモデルの開発（STEP1）”と、その“AIモデルの装置への実装（STEP2）”になります。
AIモデルの開発（STEP1）は、下記の順に行われます。
- 要求を満たすための検討を行い、
- AIモデルを開発する、
- そして、開発したAIモデルを評価し、検証して、
- 検証した結果の確認と、課題の抽出
その後、抽出した課題を解決することを要求として検討を行い、AIモデルの開発と、再び先ほどの開発のサイクルを、モデルが完成するまで繰り返すことになります。そのため、AIモデルの開発は、アジャイル型で行われる、と言われています。
AIモデルの装置への実装（STEP2）も同様で、開発したモデルを装置に載せるための検討から実装、評価、と行い、その結果が要求を満たしていなければ、対策を検討します。対策を検討した結果、要求を満たすためにAIモデルの変更が必要という結論になると、再度、AIモデルの開発からやり直すということを行います。そのため、AIモデルの実装も、アジャイル型の開発になります。
OKIアイディエスが提案するエッジAI開発とアクセラレータ
これらの複数の開発サイクルを装置要求を満たすまで繰り返すことになるため、エッジAIの開発は、AIモデルの開発と装置への実装をいかに効率よく進められるかが、装置全体開発では重要なポイントと言えます。
OKIアイディエスのAI／DL開発・デザインサービス
お客様の開発状況で、大きくは下記3種に分類できます。
- AIモデルがこれからのお客様（お持ちでないお客様） ⇒ AIモデルの作成・開発をサポートいたします。
- AIモデルが作成済みのお客様 ⇒ フィジビリティスタディを実施して、ハードへの実装をサポートいたします。
- AIモデルのハードウェアアクセラレーション ⇒ OKIアイディエスの最も得意とする領域です。お任せください！
「AIを搭載した商品を開発したいけど、どう進めて良いかわからない」という方はもちろん、既に検討されている皆さまも、ご検討の際には、お客様の開発状況にあわせた、最良の提案をさせていただきますので、当社のAI／DL開発・デザインサービスもご検討ください。まずはお気軽にお問い合わせください。
注力技術
OKI独自のAIモデルの軽量化技術「PCAS」AMD社のFPGA／SoC高速化プラットフォーム「Zebra™」を組み合わせたAIのFPGA／SoCへのアクセラレーション最適化手法
エッジAIの開発の課題に対して、当社が提案しておりますのが、GPU、FPGA／SoCを使用した開発と、独自のAIモデルの軽量化技術「PCAS」とAMD社のFPGA／SoC高速化プラットフォーム「Zebra™」を組み合わせた実装プロセスの効率化になります。この提案は、AIモデルの開発はGPUで、AIモデルの実装はFPGAで、とそれぞれのデバイスの特長を生かしてエッジAI開発を行うものになります。GPUはAIの開発で広く利用されており、一般的には、AIの開発がし易いと言われています。そのため、AIモデルの開発自体はGPUを利用して進めます。そして、装置への実装については、エッジAIで要求されているコンパクトさと高性能を実現するために、インタフェース含めた構成が可能で、他のデバイスよりも低遅延、低消費電力と言われているFPGA／SoCに対して行う、という提案です。異なるデバイスへのAIモデルの実装の際、重要なポイントとなりますのが、独自のAIモデルの軽量化技術「PCAS」とAMD社のFPGA／SoC高速化プラットフォーム「Zebra™」を組み合わせたAIのFPGA／SoCへのアクセラレーション最適化手法になります。
デモ
百聞は一見に如かず。ご覧いただいたほうが理解が深まると思いますので、デモを作成しました。
このデモは、2022年10月にOKI、AMD（当時仏ミプソロジー）、そして当社の3社で共同プレスリリース時にご覧いただいたもので、その他各種展示会でも出展しております。
テーマ名：AIモデル軽量化技術:PCAS×AI処理高速化プラットフォーム：Zebra連携による推論パフォーマンス向上
＜概要＞
USBカメラ（30fps）にてリアルタイム映像を取得し、物体検知を行うAIモデル「YOLOv4」にて推論を実施。認識した物体にバウンディングBOXおよび、その「信用度（※2）」を表示する画像処理を行いました。この物体検知を行うAIモデルを、PCASにて任意の圧縮率で軽量化を行い、ZebraにてFPGA（本デモでは、AMD社のアクセラレータカード ALVEO U50を使用）に実装した状態をデモンストレーションしました。（写真右のモニター）
PCASの圧縮率を変えることによる見た目の差（フレームレート、認識精度）を実感いただくために、比較映像を展示しました。（写真左のモニター）
（※2）信用度：AIの出力結果が物体の検出にどれだけ自信を持っているかの指標
デモ 展示の様子（2022 オートモーティブワールドにて）
4画面を拡大したものと、その内容に関し表に示します。
- CPU処理のフレームレート 1（fps）をベースに比較すると、次のような結果となります
- ZebraでFPGAに最適実装することにより、14～19（fps）
- PCASで認識精度に影響ないレベルで圧縮（低圧縮）し、軽量化。それをZebraでFPGAに最適実装することにより、19～24（fps）
- 軽量化優先で圧縮（高圧縮）し、それをZebraでFPGAに最適実装することにより、25～30（fps）
このようにPCASとZebraを活用することにより、パフォーマンスの向上が期待できるのです。
ここで、“軽量化”は、“認識精度”に影響はあります。
影響はあるのですが、お客様の開発したいアプリケーションで、どの程度の認識精度が必要かの見極めが重要と考えます。影響がある＝使えない ではなく、上流工程で見極めを行い、仕様に落とし込むことにより、評価ターゲットの絞り込み、開発期間の短縮が期待できると、私たちは考えています。
PCASとZebraの効果比較
| 1 C P U |
2 Zebra |
3 PCASxZebra |
4 PCASxZebra |
|
|---|---|---|---|---|
| PCAS | 未使用 | 未使用 | 低圧縮 | 高圧縮 |
| Zebra | 未使用 | 使用 | 使用 | 使用 |
| フレームレート（fps） | 1 | 14～19 | 19～24 | 25～30 |
| 認識精度影響 | ー | なし | 若干あり | あり |
＜技術のポイント＞
PCAS（Pruning Channels with Attention Statistics）は、OKI独自のAIモデル軽量化技術で、AIモデル（ディープラーニングモデル）に内在する不必要な演算を自動的に削減、AIモデルを軽量化することが特徴です。
Zebra™（※3）は、AMD社のAI処理高速化プラットフォームで、AIプログラムをFPGA／SoCに最適に、自動的に実装することができます。
このPCASとZebraを組み合わせることで、2つの効果が期待できます。
- 高速化を実現
FPGAによる推論速度が、従来と比較し向上します。4倍の効果が見られるポイントもあります。（軽量化優先で圧縮した場合） - 軽量化レベルが選択可能
お客様のアプリケーションの要求性能に応じ、軽量化レベルの見極めを行えます。
上述もしましたが、軽量化することで、“認識精度”に影響は多少なりともございます。上流工程で見極めを行い、仕様に落とし込むことにより、評価ターゲットの絞り込みができ、結果、トータルの開発期間の短縮が期待できると考えています。
一方、認識精度影響がアプリケーションとして許容できた場合、軽量化の効果はFPGA／SoCのダウンサイジングにも効くと考えられますので、エッジ向けに展開されているFPGA／SoCに高度AIを搭載できる可能性もあると考えています。
わたしたちOKIアイディエスは、FPGA／SoC開発に、PCASとZebraを取り込むことで、お客様の目的に応じ より柔軟に対応できるFPGA設計開発サービス の提供を目指してまいります。一緒に実証活動、検証を行ってくださるパートナー様と有用性を検証して参りたいと思います。ご興味ある方は、是非お声掛けください。
- リーフレットリンク
こちらからダウンロードいただけます。
- プレスリリース内容はコチラ。
OKIと仏ミプソロジー社、AI画像処理速度を従来の4倍に高速化する新技術を開発｜プレスリリース｜OKI
- 技術紹介をYouTubeでもご覧いただけます
https://www.youtube.com/watch?v=TXMOoU3TXBo
最後に
今後このAIポータルサイトを通じて、当社のAIの取り組み、サービスに関して拡充し、皆様にお役立ていただける情報を発信してまいります。
当社は設計・受託会社です。お客様の「こんなAIを搭載した商品を開発したい」、「AIを使ってみたいんだよなぁ」などのご要望の具現化のお手伝いをさせていただいております。お気軽にご相談ください。
- お問い合わせ
- お問い合わせフォームはこちら
メルマガで最新情報、当社主催のWebセミナー情報を配信しております。お役に立てるよう配信してまいりますので、是非ご登録お願いいたします。
- ※記載されている会社名、製品名は、各社の商標または登録商標です。
- ※ここに記載されている仕様、デザインなどは予告なしに変更する場合があります。
