ノンパラメトリックベイズモデル

本セミナーでは、近年機械学習分野で注目されているノンパラメトリックベイズモデルについて解説する。 前半では、ノンパラメトリックベイズの考え方について概観する。まず、確率モデルの基礎について解説し、有限個のパラメータを持つ通常の確率モデルを無限次元に拡張する方法について述べる。また、ノンパラメトリックベイズを支える重要な確率過程の1つであるディリクレ過程やその拡張である階層ディリクレ過程について解説し、そのような確率過程に基づくアプリケーションについて説明する。 後半では、ノンパラメトリックベイズモデルの学習方法について、混合ガウスモデルを例に具体的に解説する。まず、通常の有限混合ガウスモデルの学習方法について説明し、それを応用することで無限混合ガウスモデルの学習も可能になることを示す。

1. ノンパラメトリックベイズ
   1. 確率モデルの基礎
   2. 有限モデルと無限モデル
   3. ディリクレ過程
   4. 階層ディリクレ過程
   5. 応用例
2. ベイズ推論法
   1. 有限混合ガウスモデル
      1. 最尤推定 (ギブスサンプリング・EMアルゴリズム)
      2. ベイズ推定 (ギブスサンプリング・変分ベイズ法)
   2. 無限混合ガウスモデル
      1. 中華料理店過程とギブスサンプリング
      2. 棒折過程と変分ベイズ法