深層学習 (ディープラーニング) に代表される機械学習に対する関心が非常に高まっています。機械学習のユーザであれば,その中身について深く知る必要はないかもしれません。しかし,学習理論を正しく使うためには,その中身を構成する確率・統計理論や線形代数などの知識が必要です。このような知識を持っていれば,この第3次AIブームが終わっても,それらの知識は次に向けた研究開発に大いに役立つことでしょう。 本セミナーでは,カルマンフィルタ,システム同定,機械学習などを学ぶために必要な数学に焦点を絞って解説します。まず,難解だと言われる確率論を平易に解説することを試みます。また,その延長線上にある統計的推定論である最小二乗法と最尤推定法を説明します。さらに,最小二乗法の先にある特異値分解法や,機械学習理論でも中心的な理論である正則化法について解説します。最後に,システム同定と機械学習の類似点と相違点についてまとめます。特に,線形基底関数モデルに対する正則化最小二乗法についてベイズ推定の立場から解説し,時間があればカーネル法についてもお話しする予定です。