金谷健一『これなら分かる最適化数学』

とても良書。タイトル通り、かなり分かりやすい最適化数学への入門書。ポイントはだいぶ絞られていて、主要な定理も証明なしに出てくる。例えば線形計画の双対原理など。ただ幾何学的な意味づけなどの工夫が大きく、理解を助けている。特に関数最適化における勾配法の説明、ラグランジュ未定乗数法のやっていることの解説（目的関数と制約関数の勾配の直交性）など。さらには同じ問題を何度も違う観点から扱い、ひたすら変形を細かく追うなどしている。特にシンプレックス法のところは初等的な式変形がかなり長く続く。一見して冗長に見えるかもしれないが、これも意図されたもの。

著者も書くように、統計的最適化、特に教師なし学習とEMアルゴリズムのところは難しく、これでもこなれていない感を持つ。線形代数、特に二次形式の扱いと、解析学の初歩があれば取り掛かれる。最適化問題を数学的に見てみたい向きには、もっとも最初に読むに適切な一冊だろう。