スパースモデリングの基礎、導入のポイントと実践

大量のデータに含まれる少数の本当に重要なデータを抽出したい、あるいは少数の観測から背後にある多数のパラメタを推定したい、といったニーズは様々な産業分野で日々産まれ続けている。計測技術の高度化やストレージの低価格化、折しものビッグデータブームに後押しされ、たくさんのセンサーによる計測結果を記録したはよいものの、その中から有用な情報を取り出すことが出来ないということも多い。 　スパースモデリングは、「同じことがらを説明できるならば、説明に用いるモデルは簡潔な方がよい」という、合理的な先見知識を導入することで、大量のセンサーデータに埋もれた本質的に重要な信号を取り出したり、未知のパラメタの数よりもはるかに少ない回数の計測データを用いてパラメタ同定を行ったりするための技術の総称であり、既に統計的データ解析、機械学習の現場において必要不可欠な方法論となっている。 　本セミナーでは、確率統計と線形代数の基礎から初め、おもに統計における正則化線形回帰という視点からスパースモデリングを概観し、多数提案されている主要な発展的手法も解説する。さらに、具体的な問題をスパースモデリングにより定式化して効率的に解決する事例を、簡単なプログラム例を交えて紹介する。

1. 確率統計と線形代数の準備
   1. 確率分布、期待値
   2. 行列、ベクトル、ノルムの性質
2. スパースモデリングの導入
   1. 重回帰分析
   2. 正則化回帰
   3. Lasso:L1正則化線形回帰
3. 発展的な手法
   1. ベイズモデルとしての理解
   2. 正則化とバイアス
   3. 一般化線形モデルへの拡張
4. 実データ解析の応用例
   1. オープンソースライブラリを利用した実データの分析例
   2. 科学的・工学的応用例
5. まとめ
• 質疑応答