The jonki

呼ばれて飛び出てじょじょじょじょーんき

2021年にやってよかった技術書(数学,機械学習関連)と読書習慣について

今年もこの季節... www.jonki.net

今年は子供も生まれて本を読む時間もないか...と思いましたが,時間的制約が加わることでむしろ例年より読んだかなという気がします(それでも多くはないんですが). でも継続的に読むという習慣はできた気がします.

個人的に良かった読書習慣のコツ

  • ちょっとずつで良いので毎日同じ本を読む(ただし体調不良のときはちゃんと休む).
  • 読むページ数は安定している方が良い(一気に読もうとしない.ページ数は本の難易度に合わせて調整すれば良い).
  • 習慣記録系のアプリを使わない.連続読書記録を作ることが目標でないし,記録が切れると燃え尽きて戻れない可能性がある.
  • 同時に読む本は1冊で良い.増やすならいずれもバランス良く読む.
  • 紙媒体で読んだほうが読み進めるほどに達成感が増して良い.
  • 本の評価が高くても自分に合わないと感じたら無理せず諦める(大丈夫,他にも良い本はいっぱいある).

以下いくつか読んだ中でおすすめしたい本だけ紹介します.正直ほとんど有名な本なので特に新しい情報はないですが.

ストラング:線形代数イントロダクション + MIT 18.06 Linear Algebra, Spring 2005

線形代数まるでわからん状態が続いていたので,色々読み漁った結果これが良いと判断しました.巷には色々教材が溢れていますが,小手先の計算テクニックとかでなく,体系的に学ぼうとするならこのGilbert Strang先生のMITの授業が無料で公開されていて内容は素晴らしいと思います. ちなみに第1回の講義は87万回再生されていて,一番少ない回でも5万回程度あるので数万人が通しで見ているんだと思います. 動画見て頂くと分かるんですが,Andrew Ng先生とはまた異なる形で引き込まれる授業です.具体的な事例に対して自問自答して解き明かしていく形でかなり分かりやすいです.英語も字幕が丁寧についていますし,先生の英語はかなり聞き取りやすいです. ちなみに書籍の方は600ページを超える鈍器なのですが,一般的な数学の教科書というよりは,授業のライブ感をうまく書籍に対応させたものになっています.動画をいくつか見る→本の対応するところを見る,という形で進めていくと読みやすいと思います. 部分空間に対する重きの置き方など,この授業はよくある線形代数の教え方とは異なる視点で授業を展開している気がします.なので書籍だけを読んで勉強する場合は若干とっつきづらいかもしれません.ただ翻訳書にありがちな直訳英語は特に感じず,脳内でストラング先生が喋ってる声が聞こえるぐらい邦版は素晴らしい出来だと思います.また100ページ以上は問題演習なのも面白いです.個人的には全部やりたいと思いつつ,まじめに100%読もうとして途中で頓挫するのも嫌だったので,練習問題は飛ばして例題までにして読むようにしました.かなり分厚い本ですが,見た目ほど苦労はせず読める本だと思います.

www.youtube.com

ちなみに同じくストラング先生の18.065というデータ分析向けの授業(2018年)も公開されているので次はこれを見ようと思っています.日本語版の書籍も今年の10月に出たばかりのようですね.

これなら分かる最適化数学,金谷健一

昔買って積読していたのですが,数学力上げたくて読み始めました.極値と勾配,最小2乗法,最尤推定など全般的に事例と説明が秀逸でした.学部の頃に読んでおきたかった超絶良書です.Andrew Ng先生のCS229に近いカバー範囲だと思いますし,いわゆる機械学習に関する数学力を上げたいのであれば今回紹介する中では間違いなく一番オススメです.

これなら分かる応用数学教室,金谷健一

上述の金谷先生の本がめちゃくちゃ良かったので同じく積読していたこの本も読みました.最適化数学と被るところもありますが,フーリエ変換固有値問題が追加・充実していてよいです.何より同じ著者なので説明方法や式展開の癖が同じなので連続して読みたいところ.

情報理論のエッセンス,平田廣則

マシンラーニング系の論文などを読んでいるとエントロピーの話がよく出てきます.情報の数量化,つまり情報量に関する知識は一度振り返ってもよいかなと思い読みました.後半は符号化の話などが多くなってきますが前半だけでも読む価値はあると思います.今回紹介する本の中では一番サクッと読める本です.

続・わかりやすいパターン認識教師なし学習入門―,石井 健一郎, 上田 修功

これも積読していた有名本です.ひたすらサイコロを振ってその過程をベイズで捉えていた気がします笑.須山さんのベイズ本等と合わせてこの本を読んでも良いかもしれません.個人的にはHMM,EMアルゴリズム,前向き・後ろ向きアルゴリズムあたりの説明がかなりしっかりしている本でした.私の中で殿堂入りしている高村先生の「言語処理のための機械学習入門」でも言語ドメインにおけるこのあたりの説明があるのですが,この本ではそれを一般化して説明しており,合わせて読みたいところです.

まとめ

以上,前年度に続いて基礎的なところが多かったなという印象です.ほぼ毎日本読む習慣ができたのも良かったですね.ただ本を読むときは紙とペンを持って自分でも手を動かして確認することが大事なんですが,結構サボった気がします.来年はもうちょっと丁寧に読んでいきたい. ちなみにストラング先生の授業,学部向けで2005年なんですが,私もこの頃大学1年生なので感慨深いものがありました(線形代数の授業を何も覚えていない悲).