ざっくりML

機械学習に興味ある大学院生によるブログです.

交差検定

今回はモデル選択の時に使われる手法の、交差検定について軽くまとめて実装して見たいと思う. 交差検定 訓練とテストに使えるデータには限りがあり、良いモデルを選択するために得られたデータをできるだけたくさん訓練に使いたい. しかし、確認用に使うテス…

多項式曲線フィッティング

ビショップ本では多項式曲線フィッティングから始まっている. この単純な回帰から多くの重要な概念を説明したいらしい. まず、実数値の入力変数から、実数値の目的変数を予測することを考える. 今回は人工的に生成したデータを使って例で考え、後で実装を試…

テイラー展開

最適化数学でテイラー展開がたくさん出てきたのでとりあえず実装してみることにしました. 今回はサインカーブを使おうと思います. まず、関数のある一点での導関数の無限和で表されたものをテイラー級数と言います. その、テイラー級数を得るためにテイラー…

勾配法

「これなら分かる最適化数学」を読み始めたので、最適化についても紹介していこうと思います. これなら分かる最適化数学―基礎原理から計算手法まで作者: 金谷健一出版社/メーカー: 共立出版発売日: 2005/09/01メディア: 単行本購入: 29人 クリック: 424回こ…

ガウス分布と条件付きガウス分布

今回は、ビショップ本の2章のメインとも言えるガウス分布についてです. ガウス分布については結構な量があるのでいくつかに分けてまとめていきたいと思います. ガウス分布について ガウス分布 (Gaussian distribution)は、正規分布 (normal distribution)と…

ベータ分布

ベルヌーイ分布と二項分布のパラメータを最尤推定で求めた結果はで、データ集合中でとなる観測値の割合になる. しかし、例えば3回の試行中3回とも表が出た場合にとなってしまい今後もずっと表が出るように予測することになる.これは過学習してしまっている. …

ベルヌーイ分布

第2章の確率分布の一番最初に紹介されているベルヌーイ分布について 二値確率変数 (binary random variable, 以下二値r.v.) が1つの場合について考える. 例えば、で「表」、で「裏」を表現するとする. これを使えばコイン投げの結果が二値r.v.で表現できる. …

パターン認識と機械学習の備忘録

大学院に進学して気付けば前期が終わってしまいました. 夏休みの間は3週間のインターンに行くので思ったように自分の勉強、研究ができないと思いますが、少ない時間の中で勉強していきたいと思います. 前期の間に、線形代数、統計学、機械学習の基礎っぽい所…

論文サーベイ part2

今回は「Face Recognition Face2vec Based on Deep Learning : Small Database Case」 出展 : Automatic Control and Computer Sciences 2017 概要:異なった状態の画像に対して訓練され、その各々のデータ数は少ない、認識率をあげるには約100万の画像が必…

論文サーベイ part1

サーベイした論文の内容が後からみてわかるように自分なりにまとめていこうと思います. Abstract, Introduction, Conclusionはどの論文に対しても簡潔にまとめたものを公開し、興味があるものだけ中身を精読していこうと思います. 今回は「Recurrent Neural …