ゼロから作るDeep Learning の商品レビュー

斎藤康毅(著者)

2018/08/09

有名な本だけあり、わかりやすい上に専門的なことも書いてありとても勉強になった。

４章まででひととおり機械学習のことが理解できるが、５章の「誤差逆伝播法」では、勾配を偏微分で計算するにあたっての最適化に、行列計算で実行できるような方法が示してあった。現代では飛躍的にコストパフォーマンスが高くなったGPUを利用した計算ができるような動機から始まるアルゴリズムだと思われる。著者含め、機械学習研究者の叡智を感じた。

2018/07/22

20180720読了。

以前軽く読んだときは、あまりよく理解できなかった。
最近、ハンズオンの講義（東大松尾研のDeepLearning基礎講座）を受けたことによって理解度が大きく向上して、楽しく理解しながら読めた。
技術系と数学的な理解は、手で実際に計算したり、グラフ化したりコードを書きながらじゃないと、自分の場合は腹落ちしない模様。

2018/06/25

実践的にディープラーニングを説明しているがゆえか、変に難しい理屈もなくすんなり理解できました。
やっとDeep Learningというのがなんなのか、うっすら見えてきた思いです。

2018/05/27

ディープラーニングの入門書として、最適な１冊と思う。まず、基礎理論の解説が非常にわかりやすい。また、すぐに使えるソースコードも多数掲載されているため、手を動かしながら覚えることができた。

2018/05/03

ニューラルネットワーク（NN）に学習データを与えてパラメータ更新されていく過程がかなり詳しく説明されており、一読すればNNの仕組みを理解することができる。過去にNNが普及に至らなかった問題をどのように解決してきたかといった実践的なテクニックについても解説されていて、最近のトレンドも押さえることができる。数式も少なく、これからディープラーニングを勉強しようとしている初学者にお勧めしたい1冊。
肝心のディープなNNの部分は、畳み込み層やプーリング層がどういった処理をしているかは詳しく解説されているものの、その処理をすることによってなぜ画像を認識できるようになるかといった点にはあまり触れられていないので、そのあたりを解説している書籍を他で探してみたい。

2018/05/03

初心者には、わからないところも何箇所かあったが、比較的わかりやすかった。
Pythonを知っている+機械学習に興味がある、人は間違いなくこの本は読んで損はないはずです。

2018/01/27

（用語とその意味をサマリ）

損失関数：ある指標を基準として最適な重みパラメータの探索を行う。

2乗和誤差：損失関数として用いられる関数の一つ。ニューラルネットワークの出力と、正解となる教師データの各要素の差の二乗を計算し、その総和を求める。値が小さいものが教師データにより適合することを意味する。

交差エントロピー誤差：損失関数の一つとして用いられる関数。

ミニバッチ学習：機会学習の問題は、訓練データを使って学習を行う。訓練データに対する損失関数を求め、その値をできるだけ小さくするようなパラメータを探し出す。

この計算により教師データがいくつあっても、1個あたりの平均の損失関数を求めることができる。

一部のデータを全体の近似として利用する。
例えば60000のデータの中から100を無作為に選び出してそれを使って学習を行うような学習方法をミニバッチ学習という。
（テレビの視聴率算出などと同じ）

認識精度ではなく損失関数を指標に利用する理由：認識精度を使うと微分がほとんどの場所で0になってしまい、パラメータの更新ができなくなるため。パラメータを少し変更させても、美文に変化が表れにくい。細かい変化をとらえにくい。

微分：ある瞬間の変化の量

数値微分：微小な差分によって微分を求めること。
解析的微分：数式の展開によって微分を求めること。

偏微分：式の中に変数が二つ以上あった場合に、変数が一つだけの関数を定義してその関数について微分を求めること。

勾配：全ての変数の偏微分をベクトルとしてまとめたもの。

勾配法：各地点において関数の値をもっとも減らす方向を示すのが勾配。勾配が示す先が本当に関数の最小値なのかどうかは保証できない。（最小値でないことがほとんど）

学習率：一回の学習でどれだけ学習すべきか、どれだけパラメータを更新するかを決める。

学習アルゴリズムの実装

ステップ1：ミニバッチ
ステップ2：勾配の算出
ステップ3：パラメータの更新
ステップ4：繰り返す

訓練データ以外のデータを正しく認識できるのかどうか？過学習を起こしていないかの確認。

2018/01/16

ニューラルネットワーク って結局なんぞ？というところに興味が湧いたので一読。世の中で通用するニューラルネットワークを作るにはもう少し知識が必要。ただ、敷居を高めるように感じるGPGPU あたりはクラウド環境とライブラリ群の充実であまり意識しなくてもよい。

仕組みを理解したい。実際に作るにあたっての入門としてこれほど有用な本はなかなかないのでは？
仕組みを理解したい読者にとって、python で書かれていることがネックに感じるかもしれない。若干、 python の癖を (わざわざ) 解説している部分もあるが、擬似コードとして読めば特に言語に振り回されることはない。

2017/12/31

【機械学習の基礎からディープラーニングの入口まで】
80%以上を機械学習にしっかり触れている。図とソースが豊富で実践的に知識が得られるのが良い。機械学習を自分の手で動かして始めたい人にオススメ。

2017/12/09

理論と実装のバランスが取れている本だと思いました。
章を追って順にやっていくと、Deep Learning の実装ができるという優れもの。

仮に Python ができなくても、
コードを書くことを仕事にしている人には、
大きな壁にはならない程度に説明してくれています。
（実際に私は C# が一番なので、誤差逆伝播法までは C# でやったので、
　理解を深めることができたと感じています。）

数式が出てこないわけではないですが、出てきてもわかりやすく、
基本的にはコードを書きながら、図などを使って説明してくれています。
誤差逆伝播法の計算グラフの説明などは、
イメージを把握するにはとてもわかりやすい説明だなと思いました。

とは言えどこまで行っても数学無しでは理解できないので、
基本的な行列計算と微分の知識は前提になっているかなとは思います。
そこがまだの人は、他の本で少し鳴らしてから読んだほうが入りがいい気はします。