安西　祐一郎：認識と学習

概要

著者曰く「この本は，計算機によるパターン認識と学習の基礎的方法をていねいにわかりやすく記述した本である．」

感想

私がこの本を買ったときは、第１０章の「ニューラルネットワークによる学習」と付録「ニューラルネットによる学習」 しか読まなかった。それでも、自分ではもとを取ったと考えている。

今改めて見ると、画像処理の基本的な手法が紹介されているのに気づいた。ハフ変換であるとか、 正則化法などである。もっとも、ill-posed problem を「弱制約問題」と訳しているのは珍しい。 通常「不良設定問題」などと訳すようだ。

以下は復習である。与えられたデータベクトル `x` にたいして、連立線形方程式
`Ay = x`
を満たす解ベクトル `y` を求める問題を `P` とする。このとき、`x` に対して `y` が一意に定まらない場合、 たとえば次のような条件のもとで `y` を決める。

`min_y ({:||Ay - x ||:}^2 + lambda ||By||^2)`

を与えるような `y` を求める。もとの問題 `P` をこのような問題に ill-posed problem を変換することを正則化という。 この方法に貢献した学者を名前から、チホノフ（チコノフ、ティホノフ、ティコノフ））の正則化と呼ばれることも多い。 ここで、`lambda` を正則化パラメータと呼ぶ。

この本では正則化パラメータをどのように決めるべきかの議論まではしていない。 別の本では、ベイズ型の赤池情報量規準 (ABIC, BAIC ともいう) を使う方法が提案されている。

数式

数式表示には、ASCIIMathMLを使っている。

まりんきょ学問所 ＞ コンピュータの部屋 ＞ コンピュータの本 ＞ 安西　祐一郎：認識と学習