導入
ここではまず簡単な例として1次元の線形回帰について解説する。扱う問題自体は中学校で習うような簡単なものだが、モデリングや数式の表記は手加減せずに論文で使われているレベルのものを用いるので、機械学習の難しい数式に慣れることに集中できるだろう。
流れとしては直線y = a x y=ax y = a x による回帰を生成モデルによって捉え直し、最尤推定を行うことで最小二乗法を導出する。今後の議論の基礎になるので、ぜひ時間をかけて取り組んでみてほしい。
問題
中学校でオームの法則を習ったことを覚えているだろうか。物体の電気抵抗R R R と物体にかける電圧V V V 、流れる電流I I I の間には
V = R I (2.2.1.1) V=RI \tag{2.2.1.1} V = R I ( 2.2.1.1 ) の関係が成り立つ。この法則を利用すれば物体の電気抵抗を測定でき、物体に所望の電圧をかけたり、電流を流したりできるようになる。
より一般化して( 2.2.1.1 ) (2.2.1.1) ( 2.2.1.1 ) 式を直線の方程式で書き直せば
y = a x (2.2.1.2) y=ax \tag{2.2.1.2} y = a x ( 2.2.1.2 ) となる。電圧、電気抵抗、電流をそれぞれy , a , x y,a,x y , a , x で置いただけである。機械学習の文化ではx x x を入力(input)、y y y を出力(output)またはラベル(label)という。またa a a は重み(weight)と呼ばれ、本来ならw w w で表記することが多い。
( 2.2.1.2 ) (2.2.1.2) ( 2.2.1.2 ) 式のような関係性を持つことがわかっている、またはそのような関係性を持ちそうだと思われる現象は、重みa a a さえ求めれば入力から出力を予測できる。いまの状況ではどれくらいの電流を流したときにどれくらいの電圧がかかっているかが推測できる。
中学校や高校の範囲では、適当に1点( x , y ) (x,y) ( x , y ) を測定してそれを代表とし、
a = y x (2.2.1.3) a = \frac{y}{x} \tag{2.2.1.3} a = x y ( 2.2.1.3 ) とすれば求まるということになっていた。しかし電気抵抗を実際に何回か測定してみると、どの点を代表とするかによって求まるa a a の値は若干変わり、毎回同じ値になるとは限らない。これは物体の電気抵抗が温度に依存することや電気回路の接触などに起因するが、何が原因かはよくわからないことがほとんどだろう。
こういった「よくわからない観測値の揺らぎ」の扱いを得意とするのが確率論 である。中学高校の範囲でならいくつかの観測点について求めたa a a を平均する、大学の学部教養レベルであれば最小二乗法を用いてa a a を求める、といった方法がある。
どちらも十分に実用的な方法であり、実際それで片付いてしまうことも多いが、いまは機械学習への導入に適した形で問題を解き直そう。
モデリング
出力y y y と入力x x x の間には以下の関係があると仮定する。
y = a x + ε (2.2.1.4) y = a x + \varepsilon \tag{2.2.1.4} y = a x + ε ( 2.2.1.4 ) この式は「y y y は基本的にa x ax a x で求まるが、よくわからない誤差ε \varepsilon ε を含む」という意味であり、理論値からのズレをε \varepsilon ε という補正項に吸収させたことになる。ここでε \varepsilon ε は平均0 0 0 、分散σ 2 \sigma ^ 2 σ 2 のガウス分布に従うものとする。
ε ∼ N ( ε ∣ 0 , σ 2 ) (2.2.1.5) \varepsilon \sim \mathcal{N} (\varepsilon | 0, \sigma ^ 2) \tag{2.2.1.5} ε ∼ N ( ε ∣0 , σ 2 ) ( 2.2.1.5 ) この段階はモデリング (modeling)といって、現象に対して人間が勝手に仮定を置くことであり、誤差が本当にガウス分布に従うかどうかはわからない 。しかし人間は現象に何かしら仮定を置かなければ対象を数学的に扱うことはできないし、また仮定の置き方に自由度があることで、人間やコンピュータが計算しやすい形の数式が導出されることもある。仮定がどれだけ正しそうかは、得られた結果を見てから考えればよく、もし満足いかない結果なら満足いくまで仮定を変更すればよい。
ガウス分布 (Gaussian distribution)または正規分布 (normal distribution)は以下の式で定義される連続確率分布である。
N ( x ∣ μ , σ 2 ) = 1 2 π σ 2 exp ( − ( x − μ ) 2 2 σ 2 ) (2.2.1.6) \mathcal{N} (x | \mu, \sigma ^ 2) = \frac{1}{\sqrt{2 \pi \sigma ^ 2}} \exp \left(- \frac{(x - \mu) ^ 2}{2 \sigma ^ 2} \right) \tag{2.2.1.6} N ( x ∣ μ , σ 2 ) = 2 π σ 2 1 exp ( − 2 σ 2 ( x − μ ) 2 ) ( 2.2.1.6 ) 出力y y y はa x ax a x にε \varepsilon ε を足したものなので、平均a x ax a x 、分散σ 2 \sigma ^ 2 σ 2 のガウス分布にしたがうものとみなせるから、その確率分布は
p ( y ∣ x , a ) = N ( y ∣ a x , σ 2 ) (2.2.1.7) p(y | x, a) = \mathcal{N} (y | ax, \sigma ^ 2) \tag{2.2.1.7} p ( y ∣ x , a ) = N ( y ∣ a x , σ 2 ) ( 2.2.1.7 ) と表せる。最初なので一応丁寧に書いておくと、
p ( y ∣ x , a ) = 1 2 π σ 2 exp ( − ( y − a x ) 2 2 σ 2 ) (2.2.1.8) p(y | x , a) = \frac{1}{\sqrt{2 \pi \sigma ^ 2}} \exp \left(- \frac{(y - ax) ^ 2}{2 \sigma ^ 2} \right) \tag{2.2.1.8} p ( y ∣ x , a ) = 2 π σ 2 1 exp ( − 2 σ 2 ( y − a x ) 2 ) ( 2.2.1.8 ) である。パラメータσ 2 \sigma ^ 2 σ 2 は今後の計算にはあまり関わってこないので、議論の簡略化のため既知の定数とした。ちなみに、今回のように出力y y y がある確率分布から生成されるモデルを生成モデル (generative model)という。
観測したN N N 個のデータ点の集合を
D = { ( x ( 1 ) , y ( 1 ) ) , ( x ( 2 ) , y ( 2 ) ) , … , ( x ( N ) , y ( N ) ) } (2.2.1.9) \mathcal{D} = \left\{ (x ^ {(1)}, y ^ {(1)}), (x ^ {(2)}, y ^ {(2)}), \ldots, (x ^ {(N)}, y ^ {(N)}) \right \} \tag{2.2.1.9} D = { ( x ( 1 ) , y ( 1 ) ) , ( x ( 2 ) , y ( 2 ) ) , … , ( x ( N ) , y ( N ) ) } ( 2.2.1.9 ) とおく。D ( i ) = ( x ( i ) , y ( i ) ) \mathcal{D} ^ {(i)} = (x ^ {(i)}, y ^ {(i)}) D ( i ) = ( x ( i ) , y ( i ) ) はi i i 番目に観測されたデータ点を表す。また出力と入力を分けるときは
D y = { y ( 1 ) , y ( 2 ) , … , y ( N ) } D x = { x ( 1 ) , x ( 2 ) , … , x ( N ) } (2.2.1.10) \begin{aligned}
\mathcal{D}_y = \left\{ y ^ {(1)}, y ^ {(2)}, \ldots, y ^ {(N)} \right \} \\
\mathcal{D}_x = \left\{ x ^ {(1)}, x ^ {(2)}, \ldots, x ^ {(N)}\right \}
\end{aligned} \tag{2.2.1.10} D y = { y ( 1 ) , y ( 2 ) , … , y ( N ) } D x = { x ( 1 ) , x ( 2 ) , … , x ( N ) } ( 2.2.1.10 ) と書くことにする。
いま、簡単のために1番目のデータD ( 1 ) = ( x ( 1 ) , y ( 1 ) ) \mathcal{D} ^ {(1)} = (x ^ {(1)}, y ^ {(1)}) D ( 1 ) = ( x ( 1 ) , y ( 1 ) ) のみが観測されたとしてa a a を求めてみよう。( 2.2.1.8 ) (2.2.1.8) ( 2.2.1.8 ) 式ではy y y が確率変数、x x x は確率変数だが観測されて(今回は人間が勝手に定めたことで)実現値となっており、a a a はとりあえず与えられた固定値とみなしていた。しかしいまはa a a を求めたいのでa a a が変数であり、またy y y は観測されたことで実現値(固定値)となっている。そこで以下の尤度関数 (likelihood function)を定義する。
L ( a ∣ D ( 1 ) ) = L ( a ∣ ( x ( 1 ) , y ( 1 ) ) ) = 1 2 π σ 2 exp ( − ( y ( 1 ) − a x ( 1 ) ) 2 2 σ 2 ) (2.2.1.11) \begin{aligned}
\mathcal{L}(a|\mathcal{D} ^ {(1)}) &= \mathcal{L}(a | (x ^ {(1)}, y ^ {(1)})) \\
&= \frac{1}{\sqrt{2 \pi \sigma ^ 2}} \exp \left(- \frac{(y ^ {(1)} - ax ^ {(1)}) ^ 2}{2 \sigma ^ 2} \right)
\end{aligned} \tag{2.2.1.11} L ( a ∣ D ( 1 ) ) = L ( a ∣ ( x ( 1 ) , y ( 1 ) )) = 2 π σ 2 1 exp ( − 2 σ 2 ( y ( 1 ) − a x ( 1 ) ) 2 ) ( 2.2.1.11 ) 尤度関数とは確率分布のパラメータを変数とみなし、確率変数を定数とみなした関数である。「尤度」は「ゆうど」と読み「尤もらしい」と書いて「もっともらしい」と読むので、尤度は「もっともらしさ」という意味である。
尤度関数は確率分布から生成したデータのもっともらしさを表す指標のひとつである。尤度関数を最大化するa a a を求める、つまり最も尤もらしいa a a の値を求める手法を最尤推定 (さいゆうすいてい:maximum likelihood estimation)という。
( 2.2.1.10 ) (2.2.1.10) ( 2.2.1.10 ) 式が最大となるのはexp \exp exp の中が 0 になるときであるから、y ( 1 ) − a x ( 1 ) = 0 y ^ {(1)} - a x ^ {(1)} = 0 y ( 1 ) − a x ( 1 ) = 0 、すなわち
a = y ( 1 ) x ( 1 ) (2.2.1.11) a = \frac{y ^ {(1)}}{x ^ {(1)}} \tag{2.2.1.11} a = x ( 1 ) y ( 1 ) ( 2.2.1.11 ) のときである。これは原点と観測した1点を正確に通る直線を引くときの( 2.2.1.3 ) (2.2.1.3) ( 2.2.1.3 ) 式と一致している。
注意点は尤度関数は確率分布ではないということである。つまり一般には
L ( a ∣ D ( 1 ) ) ≠ p ( a ∣ D ( 1 ) ) (2.2.1.12) \mathcal{L}(a|\mathcal{D} ^ {(1)}) \neq p(a | \mathcal{D} ^ {(1)}) \tag{2.2.1.12} L ( a ∣ D ( 1 ) ) = p ( a ∣ D ( 1 ) ) ( 2.2.1.12 ) である。なぜならばいま、そもそもa a a は確率変数ではないとみなしているし、仮に確率変数とみなしても、ベイズの定理により
p ( a ∣ D ( 1 ) ) = p ( a ∣ y , x ) = p ( y ∣ x , a ) p ( a ) p ( y ) (2.2.1.13) p(a | \mathcal{D} ^ {(1)}) = p(a| y , x) = \frac{p(y|x,a)p(a)}{p(y)} \tag{2.2.1.13} p ( a ∣ D ( 1 ) ) = p ( a ∣ y , x ) = p ( y ) p ( y ∣ x , a ) p ( a ) ( 2.2.1.13 ) となるので、( 2.2.1.12 ) (2.2.1.12) ( 2.2.1.12 ) 式の両辺が形式的にでも等号で結ばれるのはp ( y ) = p ( a ) = c o n s t . p(y) = p(a) = {\rm const.} p ( y ) = p ( a ) = const. という特殊な状況だけだからである。
ではN N N 個のデータ点を観測した場合に話を戻そう。各データ点の観測が独立で、同じ確率分布からのサンプリングであると仮定する。このときN N N 個のデータの確率分布は
p ( D y ∣ D x , a ) = p ( y ( 1 ) ∣ x ( 1 ) , a ) × ⋯ × p ( y ( N ) ∣ x ( N ) , a ) = ∏ i = 1 N p ( y ( i ) ∣ x ( i ) , a ) = ∏ i = 1 N 1 2 π σ 2 exp ( − ( y ( i ) − a x ( i ) ) 2 2 σ 2 ) (2.2.1.14) \begin{aligned}
p(\mathcal{D} _ y | \mathcal{D} _ x, a) &= p(y ^ {(1)}| x ^ {(1)}, a) \times \cdots \times p(y^{(N)}|x^{(N)}, a) \\
&= \prod _ {i=1} ^ N p(y ^ {(i)}| x ^ {(i)}, a) \\
&= \prod _ {i=1} ^ N \frac{1}{\sqrt{2 \pi \sigma ^ 2}} \exp \left(- \frac{(y ^ {(i)} - ax ^ {(i)}) ^ 2}{2 \sigma ^ 2} \right)
\end{aligned} \tag{2.2.1.14} p ( D y ∣ D x , a ) = p ( y ( 1 ) ∣ x ( 1 ) , a ) × ⋯ × p ( y ( N ) ∣ x ( N ) , a ) = i = 1 ∏ N p ( y ( i ) ∣ x ( i ) , a ) = i = 1 ∏ N 2 π σ 2 1 exp ( − 2 σ 2 ( y ( i ) − a x ( i ) ) 2 ) ( 2.2.1.14 ) と表せる。具体的な状況としては、入力x ( 1 ) , x ( 2 ) , … , x ( N ) x ^ {(1)}, x^{(2)}, \ldots, x ^ {(N)} x ( 1 ) , x ( 2 ) , … , x ( N ) のときの出力を観測する、と決めたがまだ実際には出力y ( 1 ) , y ( 2 ) , … , y ( N ) y ^ {(1)}, y ^ {(2)}, \ldots, y ^ {(N)} y ( 1 ) , y ( 2 ) , … , y ( N ) の観測を行っていない状態(まだ確率変数)である。
出力y ( 1 ) , y ( 2 ) , … , y ( N ) y ^ {(1)}, y ^ {(2)}, \ldots, y ^ {(N)} y ( 1 ) , y ( 2 ) , … , y ( N ) を観測する(実現値を代入して定数とみなす)ことで再び尤度関数が定義できる。すなわち
L ( a ∣ D ) = ∏ i = 1 N 1 2 π σ 2 exp ( − ( y ( i ) − a x ( i ) ) 2 2 σ 2 ) (2.2.1.15) \mathcal{L}(a|\mathcal{D}) = \prod _ {i=1} ^ N \frac{1}{\sqrt{2 \pi \sigma ^ 2}} \exp \left(- \frac{(y ^ {(i)} - ax ^ {(i)}) ^ 2}{2 \sigma ^ 2} \right) \tag{2.2.1.15} L ( a ∣ D ) = i = 1 ∏ N 2 π σ 2 1 exp ( − 2 σ 2 ( y ( i ) − a x ( i ) ) 2 ) ( 2.2.1.15 ) である。この尤度関数を最大化することでa a a を求めるから、この最適化問題は
arg max a ∈ R L ( a ∣ D ) (2.2.1.16) \underset{a \in \mathbb{R}}{\operatorname{arg}\operatorname{max}} \,\mathcal{L}(a | \mathcal{D}) \tag{2.2.1.16} a ∈ R arg max L ( a ∣ D ) ( 2.2.1.16 ) と書ける。
( 2.2.1.16 ) (2.2.1.16) ( 2.2.1.16 ) 式のような最適化問題の表記は論文や書籍でよく用いられるので覚えておくとよい。最大化問題 (maximization problem)に使われるarg max \operatorname{arg} \operatorname{max} arg max は argument of the maximum の略で日本語に訳すと「関数の最大値を与える引数」の意味だ。arg max \operatorname{arg} \operatorname{max} arg max の下についているa ∈ R a \in \mathbb{R} a ∈ R は「実数全体の範囲で」の意味であり、( 2.2.1.16 ) (2.2.1.16) ( 2.2.1.16 ) 式は「関数L ( a ∣ D ) \mathcal{L}(a|\mathcal{D}) L ( a ∣ D ) の値を最大化するa a a を実数全体の範囲で求めよ」という意味になる。この問題の最適解a ∗ a ^ \ast a ∗ は
a ∗ = arg max a ∈ R L ( a ∣ D ) (2.2.1.17) a ^ \ast = \underset{a \in \mathbb{R}}{\operatorname{arg} \operatorname{max}} \,\, \mathcal{L}(a|\mathcal{D})\tag{2.2.1.17} a ∗ = a ∈ R arg max L ( a ∣ D ) ( 2.2.1.17 ) のように表記される(a ∗ a ^ \ast a ∗ はa o p t . a _ {\rm opt.} a opt. などの表記も好まれる)。厳密には最大値を与えるa a a はひとつとは限らず右辺は集合を表しているものと解釈されるため、左辺が実数であるという意図と矛盾するので、上式のような表記は本来であれば好ましくないのだが、論文や書籍ではよく用いられる。
同様に最小化問題 (minimization problem)ではarg min \operatorname{arg} \operatorname{min} arg min を用い、これは argument of the minimum の略である。また、最大化問題や最小化問題の対象となる関数、ここではL ( a ∣ D ) \mathcal{L}(a | \mathcal{D}) L ( a ∣ D ) のことを目的関数 (objective function)という。
最適化問題を解く
最適化問題 (optimization problem)が解けるかどうかは異なるし、またその解き方にもバリエーションがあるものだが、( 2.2.1.16 ) (2.2.1.16) ( 2.2.1.16 ) 式は対数尤度関数の最大化というよく使われる方法で解ける。
対数尤度関数とは尤度関数の対数をとったもの、すなわち
ln L ( a ∣ D ) (2.2.1.18) \ln \mathcal{L}(a|\mathcal{D}) \tag{2.2.1.18} ln L ( a ∣ D ) ( 2.2.1.18 ) のことである。対数変換は単調変換であるから、対数変換した関数の最大化問題ともとの関数の最大化問題の最適解は一致する。したがって
arg max a ∈ R ln L ( a ∣ D ) = arg max a ∈ R L ( a ∣ D ) (2.2.1.19) \underset{a \in \mathbb{R}}{\operatorname{arg} \operatorname{max}} \,\, \ln \mathcal{L}(a|\mathcal{D}) = \underset{a \in \mathbb{R}}{\operatorname{arg} \operatorname{max}} \,\, \mathcal{L}
(a|\mathcal{D}) \tag{2.2.1.19} a ∈ R arg max ln L ( a ∣ D ) = a ∈ R arg max L ( a ∣ D ) ( 2.2.1.19 ) であり、解きやすい左辺のほうを右辺の代わりに解いてもよいことになる。
( 2.2.1.19 ) (2.2.1.19) ( 2.2.1.19 ) 式の左辺のln L ( a ∣ D ) \ln \mathcal{L}(a | \mathcal{D}) ln L ( a ∣ D ) を変形していこう。対数を取ると掛け算が足し算になり、さらにexp \exp exp も外れるという部分がミソだ。式変形に使った式番号も書いておくので、少し大変だが追ってみてほしい。
ln L ( a ∣ D ) = ln ∏ i = 1 N 1 2 π σ 2 exp ( − ( y ( i ) − a x ( i ) ) 2 2 σ 2 ) ← ( 2.2.1.15 ) = ∑ i = 1 N ln { 1 2 π σ 2 exp ( − ( y ( i ) − a x ( i ) ) 2 2 σ 2 ) } = ∑ i = 1 N [ ln { 1 2 π σ 2 } + ln { exp ( − ( y ( i ) − a x ( i ) ) 2 2 σ 2 ) } ] = ∑ i = 1 N ( − ( y ( i ) − a x ( i ) ) 2 2 σ 2 ) + ∑ i = 1 N ln { 1 2 π σ 2 } = − 1 2 σ 2 ∑ i = 1 N ( y ( i ) − a x ( i ) ) 2 + N ⋅ ln { 1 2 π σ 2 } \begin{aligned}
\ln \mathcal{L}(a|\mathcal{D})
&= \ln \prod _ {i=1} ^ N \frac{1}{\sqrt{2 \pi \sigma ^ 2}} \exp \left(- \frac{(y ^ {(i)} - ax ^ {(i)}) ^ 2}{2 \sigma ^ 2} \right) \quad \leftarrow (2.2.1.15) \\
&= \sum _ {i = 1} ^ N \ln \left\{ \frac{1}{\sqrt{2 \pi \sigma ^ 2}} \exp \left(- \frac{(y ^ {(i)}- ax^{(i)}) ^ 2}{2 \sigma ^ 2} \right) \right\} \\
&= \sum _ {i = 1} ^ N \left[ \ln \left\{ \frac{1}{\sqrt{2 \pi \sigma ^ 2}} \right\} +\ln \left\{ \exp \left(- \frac{(y ^ {(i)}- ax^{(i)}) ^ 2}{2 \sigma ^ 2} \right) \right\} \right] \\
&= \sum _ {i=1} ^ N \left(- \frac{(y ^ {(i)}- ax^{(i)}) ^ 2}{2 \sigma ^ 2} \right) + \sum _ {i = 1} ^ N \ln \left\{ \frac{1}{\sqrt{2 \pi \sigma ^ 2}} \right\} \\
&= - \frac{1}{2 \sigma ^ 2} \sum _ {i=1} ^ N (y ^ {(i)}- ax^{(i)}) ^ 2 + N \cdot \ln \left\{ \frac{1}{\sqrt{2 \pi \sigma ^ 2}} \right\}
\end{aligned} ln L ( a ∣ D ) = ln i = 1 ∏ N 2 π σ 2 1 exp ( − 2 σ 2 ( y ( i ) − a x ( i ) ) 2 ) ← ( 2.2.1.15 ) = i = 1 ∑ N ln { 2 π σ 2 1 exp ( − 2 σ 2 ( y ( i ) − a x ( i ) ) 2 ) } = i = 1 ∑ N [ ln { 2 π σ 2 1 } + ln { exp ( − 2 σ 2 ( y ( i ) − a x ( i ) ) 2 ) } ] = i = 1 ∑ N ( − 2 σ 2 ( y ( i ) − a x ( i ) ) 2 ) + i = 1 ∑ N ln { 2 π σ 2 1 } = − 2 σ 2 1 i = 1 ∑ N ( y ( i ) − a x ( i ) ) 2 + N ⋅ ln { 2 π σ 2 1 } したがって
ln L ( a ∣ D ) = − 1 2 σ 2 ∑ i = 1 N ( y ( i ) − a x ( i ) ) 2 + N ⋅ ln { 1 2 π σ 2 } (2.2.1.20)
\ln \mathcal{L}(a|\mathcal{D}) = - \frac{1}{2 \sigma ^ 2} \sum _ {i=1} ^ N (y ^ {(i)}- ax^{(i)}) ^ 2 + N \cdot \ln \left\{ \frac{1}{\sqrt{2 \pi \sigma ^ 2}} \right\} \tag{2.2.1.20} ln L ( a ∣ D ) = − 2 σ 2 1 i = 1 ∑ N ( y ( i ) − a x ( i ) ) 2 + N ⋅ ln { 2 π σ 2 1 } ( 2.2.1.20 ) が求まった。a a a に関する最大化問題なので、第1項に関する正数倍、およびa a a に関係ない第2項は問題の解に影響しないから、
arg max a ∈ R ln L ( a ∣ D ) = arg max a ∈ R { − ∑ i = 1 N ( y ( i ) − a x ( i ) ) 2 } = arg min a ∈ R { ∑ i = 1 N ( y ( i ) − a x ( i ) ) 2 } (2.2.1.21) \begin{aligned}
\underset{a \in \mathbb{R}}{\operatorname{arg} \operatorname{max}} \,\, \ln \mathcal{L}(a|\mathcal{D}) &= \underset{a \in \mathbb{R}}{\operatorname{arg} \operatorname{max}} \,\, \left\{ -\sum _ {i=1} ^ N (y ^ {(i)}- ax^{(i)}) ^ 2 \right\} \\
&=\underset{a \in \mathbb{R}}{\operatorname{arg} \operatorname{min}} \,\, \left\{ \sum _ {i=1} ^ N (y ^ {(i)}- ax^{(i)}) ^ 2 \right\}
\end{aligned} \tag{2.2.1.21} a ∈ R arg max ln L ( a ∣ D ) = a ∈ R arg max { − i = 1 ∑ N ( y ( i ) − a x ( i ) ) 2 } = a ∈ R arg min { i = 1 ∑ N ( y ( i ) − a x ( i ) ) 2 } ( 2.2.1.21 ) である。( 2.2.1.21 ) (2.2.1.21) ( 2.2.1.21 ) 式は最小二乗法 (least squares method)の式そのものである。
あとはa a a に関して整理して
∑ i = 1 N ( y ( i ) − a x ( i ) ) 2 = ( ∑ i = 1 N ( x ( i ) ) 2 ) a 2 − 2 ( ∑ i = 1 N x ( i ) y ( i ) ) a + ( y ( i ) ) 2 \sum _ {i=1} ^ N (y ^ {(i)}- ax^{(i)}) ^ 2 = \left( \sum _ {i=1} ^ N \left(x ^ {(i)}\right) ^ 2 \right) a ^ 2 - 2 \left( \sum _ {i=1} ^ N x ^ {(i)} y ^ {(i)}\right) a + \left(y ^ {(i)}\right) ^ 2 i = 1 ∑ N ( y ( i ) − a x ( i ) ) 2 = ( i = 1 ∑ N ( x ( i ) ) 2 ) a 2 − 2 ( i = 1 ∑ N x ( i ) y ( i ) ) a + ( y ( i ) ) 2 であり、また二次関数の最小値を取る点は微分して0 0 0 になる点だから、
d d a ∑ i = 1 N ( y ( i ) − a x ( i ) ) 2 = 2 ( ∑ i = 1 N ( x ( i ) ) 2 ) a − 2 ( ∑ i = 1 N x ( i ) y ( i ) ) = 0 \frac{d}{da} \sum _ {i=1} ^ N (y ^ {(i)}- ax^{(i)}) ^ 2 = 2\left( \sum _ {i=1} ^ N \left(x ^ {(i)}\right) ^ 2 \right) a - 2 \left( \sum _ {i=1} ^ N x ^ {(i)} y ^ {(i)}\right) = 0 d a d i = 1 ∑ N ( y ( i ) − a x ( i ) ) 2 = 2 ( i = 1 ∑ N ( x ( i ) ) 2 ) a − 2 ( i = 1 ∑ N x ( i ) y ( i ) ) = 0 より、
a = ∑ i = 1 N x ( i ) y ( i ) ∑ i = 1 N ( x ( i ) ) 2 (2.2.1.22) a = \frac{ \sum _ {i=1} ^ N x ^ {(i)} y ^ {(i)}}{\sum _ {i=1} ^ N \left(x ^ {(i)}\right) ^ 2} \tag{2.2.1.22} a = ∑ i = 1 N ( x ( i ) ) 2 ∑ i = 1 N x ( i ) y ( i ) ( 2.2.1.22 ) が解となる。データ点をひとつだけ用いるとき、すなわちN = 1 N=1 N = 1 のとき
a = x ( 1 ) y ( 1 ) ( x ( 1 ) ) 2 = y ( 1 ) x ( 1 ) (2.2.1.23) a = \frac{x ^ {(1)} y ^ {(1)}}{\left(x ^ {(1)}\right) ^ 2} = \frac{y ^ {(1)}}{x ^ {(1)}} \tag{2.2.1.23} a = ( x ( 1 ) ) 2 x ( 1 ) y ( 1 ) = x ( 1 ) y ( 1 ) ( 2.2.1.23 ) であり、この結果は( 2.2.1.22 ) (2.2.1.22) ( 2.2.1.22 ) 式が、代表点をひとつ決めてa a a を求める方法の一般化になっていることを示している。
これで私たちは最小二乗法の裏にあるモデルとその数理を理解したことになる。これから登場する回帰モデルはほとんど今回の議論の拡張に過ぎないので、ここまでの話を理解できたのであればあとはぐっと楽になるであろう。