当社は、2022年10月18日~21日に、幕張メッセで開催された 「CEATEC 2022」に、群馬県ブースより出展いたしました。3年ぶりのリアル開催となり、開催者による速報では、4日間の会期中に81,612名の方が来場されたということで、非常ににぎわっておりました。
速報にも記載されてましたが、学生の方が非常に多くいらしていました。当社ブースでは「AI関連のデモ」を中心に展示していたことも影響してか、多くの学生の方が足を止めてくださり、熱心に質問してくれる方もいらっしゃいました。若い世代の皆様が、新しい技術に興味を持ってる姿は元気を貰えます。
お客様とFace to Faceでお話ができるのは、やはり良いものですね。
ご多忙の中、当社ブースにお立ちよりいただいき、そして説明を聞いてくださった皆様に、心より御礼申し上げます。
OKIアイディエス ブースの様子
当社は、本展示会において「AI搭載機器設計・開発のエキスパート」と掲げ、AI関連のデモを、下記の写真のように、3つほど展示させていただきました。
今回は、リアルの展示会ということで、お立ち寄りいただいた方に、是非“体感いただきたい”ということで、リアル展示を行いました。
OKIアイディエスのリアルタイム展示(デモ)
デモの名称(テーマ名)は次の通りです。
(写真:左)AIエッジ向けAMD「Kria KV260(ビジョンAIスターターキット)」を活用したリアルタイム映像の顔認識AI
(写真:中)AIエッジ向けAMD製「Kria KR260(ロボティクススターターキット)」を活用したAI姿勢推定および、GigE Vision®による高速画像伝送
(写真:右)AIモデル軽量化技術:PCAS×AI処理高速化プラットフォーム:Zebra連携による推論パフォーマンス向上
デモの名称見てもさっぱりわかりませんね。詳しくご紹介させていただきます。
はじめに、写真:左の展示(デモ)からご紹介いたします。
テーマ名
AIエッジ向けAMD「Kria KV260(ビジョンAIスターターキット)」を活用したリアルタイム映像の顔認識AI
<概要>
4Kカメラで取得した映像に、顔認識AI(Face Detect)で顔を検出、画像処理(ソーベルフィルター)をリアルタイムに行い、4Kのモニターに出力しています。
OKIアイディエスのリアルタイム展示(デモ) 写真:左
<技術のポイント>
「AI処理」、「画像のストリーム処理」をAMD “FPGA/SoC”に拡張実装し、処理の高速化、最適化を行っています。4Kカメラ画像の入力から、HDMIの出力までの全ての処理を30fpsで実行、AIによる顔の検出も30fpsで行っています。
AI前後処理に、HLS、ソフトウェアレベルの高位合成を行うことで、最適化、高速化を行っています。(下図青部)
カメラモニターシステムの構造図の例
実はこの「顔認識」のデモは、昨年のネプコンに出展していたものです。その時は、画像処理に「モザイク」を行っていました。その部分を、「ソーベルフィルタ(※1)」に変更したのです。この「画像処理」の部分は、お客様のアプリケーションでどのように「表現したいか?」の部分です。「顔を検出し、どのような表現をしたいでしょうか?」
(※1)ソーベルフィルタ:輪郭検出に用いられるフィルタで、画像の平均化を行いながらエッジ強調を行うフィルタ処理により、ノイズを低減しながら輪郭を強調できるものです。
当社は、FPGA/SoCに、 「AI処理」、「画像のストリーム処理」を最適に実装し、リアルタイム性を確保できるよう高速化を行う技術で、お客様の課題を解決いたします。
<関連ページ>
2021年ネプコン出展レポート
また、Techブログでも、本内容を詳しく掲載しておりますので、あわせてご覧ください。
次に、写真:中の展示(デモ)をご紹介いたします。
テーマ名
AIエッジ向けAMD製「Kria KR260(ロボティクススターターキット)」を活用したAI姿勢推定および、GigE Vision®による高速画像伝送
<概要>
“カメラの前で特定のポーズをとると、同じポーズのキャラクター画像を重畳し、モニターにリアルタイムに表示”するデモです。「特定のポーズ」を検出するのに、「骨格検出」できるAIアルゴリズムを使っています。骨格を検出し、ボーン(特徴点と線画)を重ねて描画しているデモはよく見かけます。アプリケーション作成においては、「検出した結果を、どう表現するか?」というところが求められるかと思います。本デモでは、AIにて姿勢を推定、その結果をキャラクター(ツナグちゃん)のポーズに反映させています。
OKIアイディエスのリアルタイム展示(デモ) 写真:中
<技術のポイント>
#1 映像取得 ⇒ #2 AI推論(姿勢推定) ⇒ #3 画像処理(重畳) ⇒ #4 GigE Visionで送信 までの処理を、“送信側のKria KR260のみで処理、実行している” 当社のFPGA/SoCにアクセラレート、最適に実装する技術を使っています。
エッジ向けのデバイスで、このようなAI処理ができるようになると、システム構成の自由度も出てくるのではないでしょうか?
デモ構成 イメージ図
本デモは、9/16にAMD主催の「Tech Day Tokyo 2022」に出展したのものです。
技術的なポイントは、そちらのレポートに詳述しておりますので、是非ご覧ください。
また、Techブログでも、この開発裏話を連載中ですので、あわせてご覧ください。
<参考>AMD 社の出展レポートにも掲載があります。
最後に、写真:右の展示(デモ)をご紹介いたします。
CEATEC開催の前日(10月17日)に、プレスリリースした内容で、今回の目玉として展示したものです。
テーマ名
AIモデル軽量化技術:PCAS×AI処理高速化プラットフォーム:Zebra連携による推論パフォーマンス向上
<概要>
USBカメラ(30fps)にてブース前のリアルタイム映像を取得し、物体検知を行うAIモデル「YOLOv4」にて推論を実施。認識した物体にバウンディングBOXおよび、その「信用度(※2)」を表示する画像処理を行いました。この物体検知を行うAIモデルを、PCASにて任意の圧縮率で軽量化を行い、ZebraにてFPGA/SoC(本デモでは、AMD社のアクセラレータカード ALVEO U50を使用)に実装した状態をデモンストレーションしました。(写真左のモニター)PCASの圧縮率を変えることによる見た目の差(フレームレート、認識精度)を実感いただくために、比較映像を展示しました。(写真右のモニター)
(※2)信用度:AIの出力結果が物体の検出にどれだけ自信を持っているかの指標
OKIアイディエスのリアルタイム展示(デモ) 写真:右
4画面を拡大したものと、その内容に関し表に示します。
①CPU処理のフレームレート 1(fps)をベースに比較すると、次のような結果となります。
②ZebraでFPGAに最適実装することにより、14~19(fps)
③PCASで認識精度に影響ないレベルで圧縮(低圧縮)し、軽量化。それをZebraでFPGAに最適実装することにより、19~24(fps)
④軽量化優先で圧縮(高圧縮)し、それをZebraでFPGAに最適実装することにより、25~30(fps)
このようにPCASとZebraを活用することにより、パフォーマンスの向上が期待できるのです。
ここで、“軽量化“は、”認識精度”に影響はあります。
影響はあるのですが、お客様の開発したいアプリケーションで、どの程度の認識精度が必要かの見極めが重要と考えます。影響がある=使えない ではなく、上流工程で見極めを行い、仕様に落とし込むことにより、評価ターゲットの絞り込み、開発期間の短縮が期待できると、私たちは考えています。
PCASとZebraの効果比較
<技術のポイント>
PCAS(Pruning Channels with Attention Statistics)は、OKI独自のAIモデル軽量化技術で、AIモデル(ディープラーニングモデル)に内在する不必要な演算を自動的に削減、AIモデルを軽量化することが特徴です。
Zebra(※3)は、Mipsology社のAI処理高速化プラットフォームで、AIプログラムをFPGA/SoCに最適に、自動的に実装することができます。
このPCASとZebraを組み合わせることで、2つの効果が期待できます。
①高速化を実現
FPGAによる推論速度が、従来と比較し向上します。4倍の効果が見られるポイントもあります。(軽量化優先で圧縮した場合)
②軽量化レベルが選択可能
お客様のアプリケーションの要求性能に応じ、軽量化レベルの見極めを行えます。
上述もしましたが、軽量化することで、“認識精度”に影響は多少なりともございます。上流工程で見極めを行い、仕様に落とし込むことにより、評価ターゲットの絞り込みができ、結果、トータルの開発期間の短縮が期待できると考えています。
一方、認識精度影響がアプリケーションとし許容できた場合、軽量化の効果はFPGA/SoCのダウンサイジングにも効くと考えられますので、エッジ向けに展開されているFPGA/SoCに高度AIを搭載できる可能性もあると考えています。
わたしたちOKIアイディエスは、FPGA/SoC開発に、PCASとZebraを取り込むことで、お客様の目的に応じ より柔軟に対応できるFPGA設計開発サービス の提供を目指してまいります。一緒に実証活動、検証を行ってくださるパートナー様と有用性を検証して参りたいと思います。ご興味ある方は、是非お声掛けください。
本デモは、10月17日にOKI、Mipsology、OKIアイディエス3社による合同プレスで発表させていただいた内容です。各メディアにも取り上げていただき、その情報から見に来てくださったお客様もいらっしゃいました。あわせてご覧ください。
アプリケーションの開発において、「AIを使って何かをやりたい」。そのような方が多くいらっしゃることを、あらためて感じました。しかしながら、結局どこから手を付けて良いのかわからず、悩まれている方も多くいらっしゃることもあらためて認識できました。
OKIアイディエスはお客様のAIプログラムの高速化・最適化や、エッジデバイスへの搭載、量産に向けたFPGA/SoCへの実装が業態の中心ですが、前工程であるAIアルゴリズムの選定、アノテーション(学習)の部分においても、パートナー様と連携することで、お客様のお役に立てるようにしていきたいと考えております。
本展示、デモに関するご質問、ご相談ございましたら、お気軽にお問い合せください。
ご来場ありがとうございました。