本講演では、ニューラルネットワーク計算を高速化するための技術を、既に実用化されているものから研究段階のものまで幅広く紹介します。具体的には、GPU を用いた高速化技術、FPGA を用いた高速化技術、そしてニューラルネットワーク計算専用ハードウェアについて紹介します。
これからニューラルネットワーク計算の高速化技術を利用される予定のエンジニアの方、あるいは、ニューラルネットワーク計算の高速化技術を現在開発中のエンジニアの方、双方にとって有益な情報を提供します。
- はじめに
- ニューラルネットワーク
- ニューラルネットワークの種類
- ニューラルネットワークの計算アルゴリズム
- ニューラルネットワーク計算のボトルネック
- ニューラルネットワーク計算高速化のための一般的なテクニック
- 並列化
- キャッシュの利用率向上
- 低精度化
- アプローチ①:GPUを用いた高速化
- GPUの概要
- ニューラルネットワーク計算におけるGPUの利用例
- GPUのアーキテクチャとCUDA
- cuDNN:ディープラーニングのためのCUDAライブラリ
- アプローチ②:FPGAを用いた高速化
- FPGAの概要
- ニューラルネットワーク計算におけるFPGAの利用例
- FPGAの利用環境
- 研究事例紹介
- アプローチ③:ニューラルネットワーク計算専用ハードウェアを用いた高速化
- ニューラルネットワーク計算専用ハードウェアの概要
- 研究事例紹介
- まとめと今後の展望