ベイズ統計から学ぶ統計的機械学習

本セミナーでは、確率的グラフィカルモデルと呼ばれる統計的機械学習モデルをテーマとして扱います。確率的グラフィカルモデルの利点は、なんと言っても、これ1つで多くのデータサイエンスができるようになるという点です。データサイエンスの技術が学術界に留まらず、広く社会に大きな影響を与え始めています。データサイエンスの中の主要な柱はデータマニング技術 (つまり、データ分析技術) と、AI技術の2つであり、これらの技術はこれからも社会変革をもたらしていくと予想されます。しかしながら、特にAI技術にはまだ大きな問題が残されています。それはシステムの説明性の低さです。出来上がったAIシステムの中身を人が説明できないのです。人の設計思想がシステム構築に入り辛いというのが原因の1つです。残念ながらこの問題はそう簡単には解決しそうもありません。 　よりエンジニアリングに近い位置での (つまり、設計思想が色濃く反映されている方法での) 問題解決法があれば理想です。その意味では伝統的なエンジニアリングは素晴らしいものです。人の設計思想を基礎として、そこにデータサイエンスの流儀をプラスアルファで取り込めれば、今のディープラーニングとは一風異なる方向性での未来が可能となるでしょう。本セミナーで扱うテーマは、そのような新たな方向性の実現に役立つポテンシャルをもった理論なのです。ただ残念なことに、学術業界以外では、確率的グラフィカルモデルに対する認知はまだほとんど広がっていません。 　本セミナーでは、初学者にも分かりやすいよう、統計的機械学習理論を学ぶ上で重要となるトピックは網羅的に解説し、理論の基礎から全体像、そして、応用に対する考え方に至るまでを習得できるようにします。また、初学者だけに限らず、統計的機械学習理論を多少聞きかじったけれども、しっかりと基礎部分を把握しておきたいという方にもピッタリな内容となっています。内容の性質上、数式が多数出現しますが、必要に応じて補足をしていくので特殊な専門知識は必要ありません。大学初年度レベルの微積分、線形代数、確率統計の知識があるとより楽しめると思います。

1. はじめに
   1. データマイニングと人工知能
   2. 機械学習とは何か?
      1. 教師あり学習
      2. 教師なし学習
   3. 深層学習概説
   4. データマイニングと人工知能の違い
   5. 統計的機械学習の目的とメリット
2. 確率の基礎とベイズ統計、そして最尤推定
   1. 確率の基礎と例題
      1. 規格化条件と統計量
      2. 確率の和法則と積法則
      3. 例題で理解しよう
   2. ベイズ統計
      1. ベイズの定理と事後確率
      2. 最大事後確率推定
   3. 最尤推定: 統計的機械学習理論の最重要技術
      1. 最尤推定の考え方
      2. 未観測データがある場合の最尤推定とEMアルゴリズム
   4. 少し進んだ話題
      1. 階層ベイズという考え方: 超事前分布のメリット
3. グラフィカルモデルの基礎とマルコフ確率場
   1. グラフィカルモデルとは?
   2. マルコフ確率場
      1. ボルツマンマシン
      2. ガウス型マルコフ確率場
   3. マルコフ確率場の統計的機械学習の方法
      1. 最尤法
      2. 最尤法と情報理論
      3. EMアルゴリズム
   4. マルコフ確率場の問題点
      1. 組み合わせ爆発の問題
      2. 近似的アプローチ (モンテカルロ積分法)
4. マルコフ確率場の応用例 (データ生成モデル、データマイニング)
   1. 画像ノイズ除去
   2. 道路交通量の (ナウ・キャスト) 推定
   3. グラフマイニング
      1. スパースモデリングのアプローチ
      2. 項目間の関連マップの抽出
5. 人工知能と統計的機械学習
   1. パターン認識問題とは?
   2. 説明可能な人工知能を目指して
      1. ディープ・アンサンブル
      2. 事後分布による入出力逆推定
6. おわりに
   • 統計的機械学習の意義とこれから