AIモデルをコンパクト化するための最新動向

再開催を依頼する / 関連するセミナー・出版物を探す
オンライン 開催

本セミナーでは、AIモデルのコンパクト化に関する技術について最新動向を踏まえながら解説いたします。

日時

開催予定

プログラム

言語・画像など様々なデータを対象とした大規模なAIモデルの利活用が進んでいる。モデル規模は大規模化を続けており、処理速度やメモリ消費量に問題を抱えている。今後、クラウドからエッジでの大規模なAIモデルの活用を考えた時、モデルをいかにコンパクトにするかが重要となる。  本セミナーではモデルのコンパクト化に関する技術について最新動向を踏まえながら解説する。

  1. 大規模AIモデルの動向
    1. Transformer
    2. CLIP
    3. Llama
  2. モデルのコンパクト化手法
    1. コンパクト化手法の分類
  3. 蒸留によるコンパクト化
    1. 知識蒸留
    2. 中間層蒸留
    3. Mutual Learning
  4. 量子化によるコンパクト化
    1. 量子化の導入方法
    2. BitNet
  5. 枝刈りによるモデルのコンパクト化
    1. 構造化枝刈り
    2. 非構造化枝刈り
  6. 言語モデルへの適用事例
  7. 画像モデルへの適用事例
  8. マルチモーダルモデルへの適用事例
  9. まとめ

受講料

ライブ配信セミナーについて