ざっくりML

機械学習に興味ある大学院生によるブログです.

パターン認識と機械学習の備忘録

  

 大学院に進学して気付けば前期が終わってしまいました.

夏休みの間は3週間のインターンに行くので思ったように自分の勉強、研究ができないと思いますが、少ない時間の中で勉強していきたいと思います.

 

前期の間に、線形代数統計学機械学習の基礎っぽい所、最適化問題について復習できたのでビショップ本に挑戦してみようと思い、そのための備忘録をこのブログで残していこうと思っています. 重要な内容をまとめたり、実装できそうなところがあればそのソースコードや可視化した画像なども公開していこうと思っています.(いつまで続くか分かりませんが...)

ビショップ本は難しいで有名ですが、一通り学習し終えた後にはそれなりに成長していると信じて勉強しようと思います.

 

パターン認識と機械学習 上

パターン認識と機械学習 上

 

 

 

パターン認識と機械学習 下 (ベイズ理論による統計的予測)

パターン認識と機械学習 下 (ベイズ理論による統計的予測)

 

 

 

まず前期に行った復習に使った本の紹介をしようと思います.

 

線形代数は数多くのサイトで紹介されている「プログラミングのための線形代数」を使いました.

 機械学習を勉強していく上で線形代数は必要となってきます.

私自身、行列やベクトルの演算は不自由なく行えたのですが、逆行列の存在や固有値固有ベクトルについての知識が曖昧だったのでそこらへんを中心に埋めなおしました.

この本は線形代数を実際どのように使っているのかが分かりやすく書かれているので、学部の時に使った教科書のようによくわからずに式を追っかけていた頃より理解が深まったと思います.

プログラミングのための線形代数

プログラミングのための線形代数

 

 

統計学は「統計学入門」を使いました.

これまた有名な本なので今更紹介することもないのですが...

統計学検定の2級ぐらいは受けようかなと思い勉強中です. 

統計学入門 (基礎統計学?)

統計学入門 (基礎統計学?)

 

 

機械学習はB4の頃も卒業研究の題材にしていて、ゼミでも輪講をしていたのですが、再度基礎を固めようと思い「言語処理のための機械学習入門」を読み直しました.

また演習問題も全部解きなおしました.

機械学習が流行っている現在、本屋に行けば数多くの機械学習に関する本が並んでいます.

その中でも機械学習を勉強するための1冊目に最も適していると思っています.

基本的な数学的知識(微分、行列、ベクトル演算ぐらい)があれば数式が追いかけられます.

また具体例や図が多く理解を深めやすいと思います. 言語処理のためのと書いてありますので、言語処理に特化したトピックもありますが、それ以外はコンピュータビジョンやら音声解析やらにも共通する話題ですので、これで入門するのが良いと思います. 

言語処理のための機械学習入門 (自然言語処理シリーズ)

言語処理のための機械学習入門 (自然言語処理シリーズ)

 

 

最適化問題の復習は「数理計画入門」を使いました.

機械学習とは最適化問題である」 と言われるぐらい外せない分野です. 上で紹介した「言語処理のための機械学習」にも最適化問題について扱われているセクションがありますがより深く学ぶ必要があると思い、1冊手に取って勉強しました. 

この本は数学的説明を端折ることが多々あるので、厳密に証明をしていきたいという人には不向きかもしれません. しかし、量的にもそんなに多くなく一通りの手法について学習できるので短期間で網羅したいという人にはオススメかもしれません.

最適化問題で有名なのは「これなら分かる最適化数学」だと思います. 私自身読んだことがないのでここではレビューはしませんが、後期に入ったら読もうと思っているのでその時にまたブログに書こうかなと思っています.

 

新版 数理計画入門

新版 数理計画入門

 
これなら分かる最適化数学―基礎原理から計算手法まで

これなら分かる最適化数学―基礎原理から計算手法まで

 

 

以上が私がビショップ本に入る前に復習した内容です.

年内には一通り目を通したいなあ