機械学習とは、学習データから学んだ知識に基づいて「予測」を行う機能のことである。予測する対象が「クラス」の場合を「パターン認識」、「値」の場合を「回帰」などと呼んでいるが、多くの機械学習アルゴリズムはどちらの場合にも適用可能である。本講義では「パターン認識」について解説する。
「パターン認識」は「特徴抽出」と「識別規則」と「学習規則」からなる。本講義では、パターン認識の分野で広く利用されている代表的な識別規則と学習規則について紹介する。特徴抽出は極めて重要であるが、認識対象ごとに考える必要があるので、本講義では応用事例の中で一例を紹介するにとどめる。
学習データを用いて設計されたパターン認識装置は、実際に世の中で使用される場合にどの程度の性能 (汎化能力という) を発揮できるか適切に予測する必要がある。それらの手法についても紹介する。また、ROC曲線を用いた識別器間の性能比較法についても紹介する。
紹介した識別規則や学習規則ついて、統計解析環境Rを用いた実行例を示し、それらの特性について理解を深めることができるようにする。
- はじめに
- パターン認識とは
- 特徴ベクトル空間と次元の呪い
- 識別規則と学習アルゴリズムの概要
- 分類
- 汎化能力の推定法
- ベイズの識別規則
- 最大事後確率基準
- ベイズの識別規則は誤り最小
- 最小損失基準に基づくベイズの識別規則
- 受信者動作特性曲線 (ROC曲線)
- ROC曲線の求め方
- ROC曲線による識別器間の性能比較
- 等損失直線群による最適動作点の選択
- k最近傍法 (kNN法)
- 最近傍法とボロノイ境界
- kNN法
- 統計解析環境Rによる実行例
- 近似最近傍探索
- パーセプトロン型学習規則
- パーセプトロンの学習規則/難しさの尺度
- 誤差逆伝搬法の学習規則/学習特性
- サポートベクトルマシン (SVM)
- サポートベクトルマシンの導出
- 最適識別調平面
- KKT条件
- 線形分離可能でない場合への拡張
- 非線形特徴写像
- 統計解析環境Rによる実行例
- 部分空間法
- 部分空間とは
- 主成分分析
- 部分空間法
- 統計解析環境Rによる実行例
- 応用事例:車載ビデオカメラによる道路交通標識の実時間認識
- 標識候補の検出処理
- RANSACによる幾何学的パラメータの抽出
- HOG特徴と部分空間法による検出処理
- 標識内部の特徴抽出と部分空間法による認識
- 反対色フィルタによる標識内部特徴の抽出
- 部分空間法による認識処理
- 夜間の認識性能強化
- パーティクルフィルタを用いたリファインメント処理
- パーティクルフィルタを用いた同一標識のフレーム間追跡と移動平均によるノイズの低減