パターン認識と機械学習 (Pattern Recognition and Machine Learning; PRML) のメイントピックの一つであるグラフィカルモデルについての記事を書いていきたいと思います. 1. 準備 加法定理と乗法定理 2. グラフィカルモデルの特徴 3. 用語の説明 4. 参考文…

線形回帰 線形基底関数 今回はビショップ本の第3章の線形回帰モデルです. その中でも基底関数のお話. 第3章からは教師あり学習の話になります. その中でも回帰の問題を取り扱っています. 回帰問題とは、入力をD次元ベクトルとし、そのベクトルから1つあるい…

交差検定 今回はモデル選択の時に使われる手法の、交差検定について軽くまとめて実装して見たいと思います. 交差検定 交差検定について 交差検定の実装例 交差検定について 訓練とテストに使えるデータには限りがありますが、良いモデルを選択するために得ら…

多項式フィッティング ビショップ本で最初に取り扱っている多項式曲線フィッティングについての備忘録です. (ビショップ本では、この単純な回帰から多くの重要な概念を説明したいらしい.） 多項式フィッティング 多項式フィッテイングとは 多項式フィッテイ…

ガウス分布と条件付きガウス分布 今回は、ビショップ本の2章のメインとも言えるガウス分布についてです. ガウス分布については結構な量があるのでいくつかに分けてまとめていきたいと思います. ガウス分布と条件付きガウス分布 1. ガウス分布について 多変量…

ベータ分布 第2章の確率分布の一番最初に紹介されているベータ分布についての備忘録です. ベータ分布 ベータ分布を考える理由 ベータ分布について ベータ分布の実装例 ベータ分布を考える理由 ベルヌーイ分布と二項分布のパラメータを最尤推定で求めた結果は…

ベルヌーイ分布 第2章の確率分布の一番最初に紹介されているベルヌーイ分布についての備忘録です. ベルヌーイ分布 ベルヌーイ分布について ベルヌーイ分布の実装例 ベルヌーイ分布について 二値確率変数 (binary random variable, 以下二値 r.v.) が1つの場…

この記事の対象読者 「最近機械学習って流行ってるけど何からやればいいのか分からない...」 「純粋に機械学習って難しそう... 」 「機械学習勉強したいんだけど、本屋や図書室行っても機械学習関連の本がありすぎて困る...」 と言う方は多いのではないでし…