Deep Learning研究動向の最前線

深層学習の代表的な手法である畳み込みニューラルネットワークは画像認識分野で様々なタスクへの応用が進んでいる。また、近年は自然言語分野で提案されたTransformerを応用したVision Transformerなど新たな手法も提案されている。 　本講義では、畳み込みニューラルネットワークとVision Transformerについて、仕組みと画像認識分野への応用事例について説明する。また、ネットワークモデルの軽量化技術についても説明する。これらの実装方法についても紹介し、実践的に活用できる知識を身につける。

1. ディープラーニングの現在
2. 畳み込みニューラルネットワーク (CNN:Convolutional Neural Networks)
   1. CNNの構成要素
   2. CNNの学習方法
   3. 汎化性能向上のテクニック
3. 代表的なネットワーク構造
   1. ResNet
   2. MobileNet
   3. EfficientNet
4. 画像認識分野への応用
   1. 物体検出
   2. セグメンテーション
   3. 姿勢推定
   4. 判断根拠の可視化
5. Vision Transformer
   1. アテンション構造
   2. Transformer
   3. Vision Transformer
   4. DINO (自己教師あり学習)
6. モデルのコンパクト化
   1. 枝刈り
   2. 蒸留
   3. 重み分解
7. ディープラーニングの実装
   1. 畳み込みニューラルネットワークの実装
   2. Transformerの実装
   3. ディープラーニングのライブラリ