Edge AI半導体チップの基礎と応用および最新動向・今後の展望

Edge AIの市場の動向: AlexNet出現の2012年から遅れること2年でサーバ中心のAIチップの実用化が動き出しました。2016年頃より低消費・小型化の研究が活発になり、2018年頃からEdge AIという市場領域が明確に言葉にされるようになりました。特にここ1〜2年はIoT市場をターゲットとしたスタートアップが活発に参入している1mW級のTinyMLチップ旋風が勢いを増しています。そのEdge AI・IoTの最前線も含め説明致します。 　Edge AI研究最前線:Edge AI特有の(1) 小型化・高性能化 (量子化とスパース化) をベースに、現在学会を席巻し、既に市場にも出現しつつある(2) ニューロモルフィック工学の一端となる脳の構成を模倣したロジック・メモリ融合型のCompute in – memory (CIM) 技術をデジタル・アナログ、またSRAM/NVRAMの切り口で説明致します。さらに、(3)より脳細胞の動作原理を取り込んだスパイキングニューラルネットワークや、(4 リザバー技術もわかりやすく紹介致します。

1. AIチップ全体の発展と展開
   1. AIチップの出現 (2014〜) /競争激化のサーバ高速化 (2016〜)
   2. 高性能追求Edge AI (2018〜) / Tiny MLチップの百花繚乱 (2019〜)
2. AIチップ構成のための要素技術
   1. ディープラーニングの発展と展開
   2. 入力次元数とパラメータ数/演算数
3. AIチップの実装のためのポイントと演算性能
   1. 基本回路構成 (MAC/中間データ/重みバッファー/関数)
   2. MACアレイの構成種類
   3. 推論と学習の構成差
4. Edge AIの高性能化へのアプローチ (低消費電力化、小型化)
   1. 量子化 (8 – 4b/Ternary、bin)
   2. スパース化 (Pruning/Data Skipping)
   3. データフロー効率化 (WS、OS/IS、RS)
   4. メモリバンド幅 (ルーフモデル)
5. Edge AIの究極の技術 ?! CIM (Compute in memory) … 研究最前線
   1. アナログCIMとデジタルCIMの動向 (含むNear Memory)
   2. s_CIM (SRAM) … Current domain type/ Charge domain type
   3. nv_CIM (NVM) … ReRAM/PCM等
6. 激しさを増すサーバ用AIチップ技術の動向 … 参考情報
   1. GPU vs ASIC (A100 vs TPU/1,2…5、MN-Core … )
   2. メモリ混載型の対応
      • DaDianNao
      • Graphcore
      • Cerebras1/2
   3. 並列演算処理の戦い (データ vs モデル並列、スパース化)
7. アプリドメイン別Edge AIチップの最前線
   1. Edge AI
      • 自動運転
      • スマホ
      • 産業用
      • EdgeTPU
      • J_Nano …
   2. TinyML
      • MCU型
      • RISC-V
      • CIM型
      • TFL型
      • ニューロモルフィック型
8. Edge AIでのブレークスルーを担うニューロモルフィック工学
   1. ニューロモルフィック工学最前線
   2. SNN チップ
      • TrueNorth
      • Loihi2
      • DynapSE CNN
   3. 最新注目技術動向:リザバーコンピューティング
9. 各種アプリケーションへのチップ適用 … 参考情報
   1. 自動運転 (E2End/R-CNN) 、自動翻訳 (Attention/Transformer)
   2. 深層強化学習 (アルファ碁/Zero) 、IoT (人物検知, KWS, 異常検知)
10. 今後の技術動向と纏め