当社は、2022年9月16日に、AMD社主催 「Tech Day Tokyo 2022 」に、出展いたしましたので、ご紹介いたします。
「Tech Day Tokyo 2022」は、AMD社のカスタマー企業およびパートナー企業を対象とし、最新のAMD製品、ツール、ソリューションのアップデート、さらには最新のアプリケーションやカスタマー事例を紹介するオンサイトテクニカルカンファレンスで、大盛況に開催されました。
当社は、AMD社の「プレミアパートナー」ですので、最新のAMD社製品である「Kria KR260 ロボティクススターターキット」に、“AI推論(姿勢推定)”および、当社の高速画像伝送ソリューション「GigE Vision ソリューション」を実装したデモの展示を行いました。
OKIアイディエス ブースの様子
OKIアイディエスは、「Kria KR260を活用した10GigE Vision/AI姿勢推定」というテーマでご紹介いたしました。
「カメラから取得した映像、画像にAI推論および画像処理を行い、モニターに表示」するシステムは多く目にするようになってまいりました。エッジAI向けに当社の“解決のアプローチ”の一例をご説明いたしました。
“カメラの前で特定のポーズをとると、同じポーズのキャラクター画像を重畳し、モニターにリアルタイムに表示する”デモを開発、デモを行いました。キャラクターにはOKIのバーチャルキャラクターである“緒希ツナグ®”ちゃんを起用し、デモに華を添えてもらいました。
OKIアイディエスのデモ構成
本デモの最大のポイントは、
#1 映像取得 ⇒ #2 AI推論(姿勢推定) ⇒ #3 画像処理(重畳) ⇒ #4 GigE Visionで送信 までの処理を、“送信側のKria KR260のみで処理、実行している” ということです。
当社のFPGA/SoCにアクセラレート、最適に実装する技術を存分に活かしています。
デモの様子
<写真の状況説明>
モニター上部に設置されているUSBカメラの前で、対象人物(左)がピースサイン姿勢推定を行い、骨格を重畳(赤線。それ以外の人は青線)
ツナグちゃんがピースサインをしている画像がリアルタイムに表示される。
#1 映像入力~前処理
まず、KV260スマートカメラ相当の開発環境をKR260に構築しました。
スマートカメラアプリケーションは、IVAS2021というバージョンに対応していますが、KR260はVVAS2022というバージョンにしか対応していないため、スマートカメラアプリケーションのVVAS(Vitis Video Analytic SDK)への対応を行い、VVAS、DPUを利用したAIアクセラレーションを可能としました。
#2 AI推論(姿勢推定)
「人物」の骨格を推定するためのAIアルゴリズムとして、AMD社の深層学習を運用するための最適化済みモデルのライブラリであるVitis AI Model Zoo に掲載されている “OpenPose”を選定しました。
“OpenPose”は、リアルタイムに複数人の関節を同時に推定することができる姿勢推定アルゴリズムです。
Kria KR260でDPUによるAI推論を実現しているのは、当社のみです。(22年9月時点)
#3 画像処理(重畳)
前述の骨格推定結果に基づき、対象人物の“ポーズ”を判定、その“ポーズ”に対応した「ツナグちゃん」の画像を重畳します。ソフトウェア処理では、画像重畳のフレームレートは3(fps)程度でした。
これを、当社が得意とする“高位合成(HLS)”によるハードウェア化を行うことで、画像重畳のフレームレートは約30(fps)を実現!約10倍に引き上げることに成功いたしました。リアルタイムと呼ばれるのは、一般的には25(fps)以上と言われておりますので、まさに“リアルタイム処理”を実現しております。
また、マルチメディアフレームワーク(GStreamer)用プラグインを開発、拡張実装し、画像のストリーム処理を簡単に実現できるようにもしています。
#4 高速画像伝送
最後にAI処理、画像処理を行った画像をモニターに送信しリアルタイム表示します。ここで、大容量の画像を高速に伝送するために当社の「GigE Vision V2.0 Tx IP」を実装。AI処理、画像処理、そして画像伝送を送信側のみで実現するには、いかにリソースを軽量に、最適に実装できるかがポイントです。当社にはV2.0 Tx IPに“軽量版”をラインナップしており、今回これを実装することで実現いたしました。
さらに詳しくお知りになりたい方は、リンク先もご覧ください。
本デモのデザインの構成図
OKIアイディエスはお客様のAIプログラムの高速化 ⋅最適化や、エッジデバイスへの搭載、量産に向けたFPGA/SoCへの実装も承ります。本展示、デモに関するご質問、ご相談ございましたら、お気軽にお問い合わせください。