ディープラーニングのモデル軽量化技術 基礎と最新動向

再開催を依頼する / 関連するセミナー・出版物を探す
オンライン 開催

認識精度などのモデル性能の向上とともに増加し、処理速度・消費電力・部品コスト等に影響する、メモリ使用量や演算量。
本セミナーでは、車載機器や組み込みIoTデバイス等の様々なエッジデバイスへのディープラーニングの実装が広がるなか、必要性が増しているモデル軽量化技術について、ディープラーニングの基礎から各手法、最新技術までを分かりやすく解説いたします。

日時

開催予定

プログラム

昨今ブームとなっている人工知能 (AI) 技術の中でもコア技術であるディープラーニングは、その認識能力・表現能力の高さから様々な分野への利活用、また労働力不足などの重要な社会課題の解決に役立つ技術のひとつとして注目されています。しかし、ディープラーニングのモデルはその他の機械学習モデルと比べて推論処理に必要なメモリ使用量・演算量が膨大であり、さらにそれらを多く必要とするモデルほど性能 (認識精度など) が良くなる傾向があります。一般に、メモリ使用量や演算量は、処理速度・消費電力・部品コスト等に直接関わるため、なるべく小さく抑えたいところです。そのようなニーズに対し、ディープラーニングモデルの性能をできる限り維持しつつメモリ使用量・演算量を削減する軽量化技術が登場し、研究が進められています。  本セミナー全体の流れとして、まず画像認識を題材にディープラーニングの基礎を説明した後、軽量化技術について解説します。軽量化技術は『モデルプルーニング』や『ネットワーク量子化』など、着眼点の異なるいくつかの種類に大別できますので、種類毎に様々なテクニックを紹介していきます。今回は、主にAI系の有力国際会議 (CVPR、ICLRなど) やプレプリントサーバ (ArXiv) に掲載されている最新技術を、理論的な厳密さよりもイメージやコンセプトが伝わるようにわかりやすくご紹介致します。

  1. ディープラーニングの基礎
    1. データ表現と問題設定
    2. 全結合ネットワークモデル
    3. 畳み込みニューラルネットワーク
    4. 代表的なモデルとその構成要素
  2. モデルプルーニング
    1. 非構造化プルーニング
    2. 構造化プルーニング
  3. ネットワーク量子化
    1. 二値化
    2. 一様量子化
    3. 非一様量子化
  4. 軽量アーキテクチャ設計
    1. 分岐・合流接続の工夫
    2. 畳み込みの要素分解
    3. 構造の自動探索
  5. その他の軽量化技術
    1. 重み共有
    2. 知識蒸留
    3. 低ランク近似
  6. まとめ

受講料

複数名受講割引

アカデミー割引

教員、学生および医療従事者はアカデミー割引価格にて受講いただけます。

ライブ配信セミナーについて