湯どうふ

機械学習のための連続最適化

 

機械学習のための連続最適化 (機械学習プロフェッショナルシリーズ)

機械学習のための連続最適化 (機械学習プロフェッショナルシリーズ)

 

多様体上の最適化について知りたくて購入したが、少なくとも位相・多様体を理解せずに読むのは無謀であった。

しかし、非線形最適化のアルゴリズムについての記述は極めて充実しているといえる。

福島本は数学的に厳密であるが、アルゴリズムについての記述はない。

『最適化と変分法』はアルゴリズムについて、記載はあるが必要最小限にとどまっている。高速にアルゴリズムを理解したい人であれば、手っ取り早いであろう。MATLABなどの最適化ソルバーを使うにあたって、求解アルゴリズムをオプション指定するくらいであれば、十分かもしれない。もっとアルゴリズムを詳しく理解したい人は本書がおすすめである。

共役勾配法の記述が充実しているのも、本書の特徴である。

後半には、具体的な機械学習の要素技術への応用例が豊富に示されている。

最後には、行列空間上の最適化、つまり多様体上の最適化について、記述されている。日本語の書籍としては、おそらく唯一であろう。雑誌論文では、東京理科大の佐藤先生によるわかりやすい文章がいくつかあり、それを読むことができる。

本書全体を通しての注意点としては、連続最適化で使われる用語について、伝統的な数理計画における文脈と、機械学習における文脈ではそれぞれ異なる場合がある。私は、数理計画の方からキャリアが始まったため、用語の違いになれるのに少し時間がかかった。しかし、隣県どうしの方言みたいなものなので、慣れればどうってことはない。