ベイズ機械学習/深層学習

概要

ベイズ主義は，エニグマ解読の話で一躍注目されてから，近年計算機の発展とともに応用範囲が拡大し，ますます注目を集めている統計学的手法のひとつです．ベイズ主義は頻度主義と比較して，確率に不確実性を持たせるというアプローチのもと非常に優れた精度と高い柔軟性を達成し，今では機械学習や深層学習のコアの部分の実装に欠かせない統計学的手法となっています．また，レコメンデーションや制御，生成モデルなど，ベイズ統計学の活用により目覚ましい発展を遂げた分野も数多く存在します．勉強会では，ベイズ主義の考え方が機械学習や深層学習理論と応用でどのように使われているかについて学びます．

目的

• ベイズ主義の考え方を身につける．
• ベイズ主義の考えを導入した機械学習及び深層学習への理解を深める．

ベイズ推論による機械学習入門
第1章:機械学習とベイズ学習
第2章:基本的な確率分布
第3章:ベイズ推論による学習と予測
第4章:混合モデルと近似推論
第5章:応用モデルの構築と推論

ベイズ深層学習
第1章:はじめに
第2章:ニューラルネットワークの基礎
第3章:ベイズ推論の基礎
第4章:近似ベイズ推論
第5章:ニューラルネットワークのベイズ推論
第6章:深層生成モデル
第7章:深層学習とガウス過程

実施期間・日時

場所: オンライン (Zoom)
日時：2020年6月 - 10月, 毎週日曜日10時 - 12時

参考資料

[1] 須山 敦志, 杉山 将(監). 機械学習スタートアップシリーズ ベイズ推論による機械学習入門. 講談社, 2017.
[2] 須山 敦志, 杉山 将(編). 機械学習プロフェッショナルシリーズ ベイズ深層学習. 講談社, 2019.
[3] K. Osawa et al. Practical Deep Learning with Bayesian Principles. NeurIPS, 2019. [arXiv]
[4] Y. Gal et al. Dropout as a Bayesian Approximation: Representing Model Uncertainty in Deep Learning. ICML, 2016. [arXiv]
[5] Y. J. Lim et al. Variational Bayesian Approach to Movie Rating Prediction. KDD Cup&WS, 2007. [pdf]
[6] P. I. Frazier. A tutorial on Bayesian Optimization. 2018. [arXiv]