機械学習入門

東京科学大学工学院経営工学系の学部と大学院で行っている機械学習に関する2つの講義の資料を1つにまとめたものです．講義では表面的な知識を得るのではなく，手法の特性をしっかりと理解することを目指しています．データに何かの機械学習法を適用するだけでは，現実問題は解決しないことが大半です．機械学習の技術を自在に応用できるようになるために，基礎理論・数理モデル・学習アルゴリズムについて，ある程度数学的な説明をしています．

1 準備

1.1 数学の諸性質
1.2 非線形最適化

2 教師あり学習

2.1 教師あり学習
2.2 線形回帰とロジスティック回帰
2.3 カーネル法（カーネル回帰とガウス過程回帰）
2.4 サポートベクターマシーン
2.5 決定木とアンサンブル学習
2.6 ニューラルネットワーク

3 教師なし学習

3.1 クラスタリング
3.2 特徴抽出
3.3 生成モデル