簡単な例を使って誤差逆伝播法をおさらいします。
モデルを更新する目的
体重から身長を予測することを考えます。そのための訓練データとして、次のように入力値と正解値がペア(対)として与えられているとします。
(体重1,身長1),(体重2,身長2),…,(体重N,身長N)
数式にしやすいように、これらの値を(xi,yi∗)= (体重i,身長i)と表現することにします。なお、*印をつけたのは、後で正解の値とモデルによる予測の値とを区別しやすくするためです。
モデルは体重xiから身長を予測してyiを出力します。
yi=model(xi)
ここではモデルの具体的な形として、直線の式を考えます。
yi=axi+b
aは直線の傾きで、bは直線の切片です。aとbをまとめて、このモデルのパラメータと呼びます。これはモデルの一部と考えられ、モデルを更新することはパラメータを調節することです。
我々が目指すのは、モデルの予測yiが正解yi∗に近くなるようにモデルのパラメータを調節しモデルを更新することです。
予測を変えると誤差が変化する
そこで、モデルの予測誤差を評価するために、例として平均二乗誤差(Mean Squared Error、MSE)を使用します。
MSE=N1i=1∑N(yi∗−yi)2
ここで、Nはデータポイントの数です。
なお、ここであらかじめ21をかけておくと後で微分した時に2が打ち消しあってスッキリしますが、本質ではないのでここのままで進めます。
このMSEの値を小さくするために、ある予測値yjを変化させた場合のMSEの反応を考えます。つまり、MSEをyjで偏微分します。
∂yj∂MSE= ∂yj∂N1i=1∑N(yi∗−yi)2=N1i=1∑N∂yj∂(yi∗−yi)2=N1i=1∑N2(yi∗−yi)∂yj∂(−yi)
ここで、yiがyjに依存するのは、i=jの時だけです。したがって、次のように簡略化できます。
∂yj∂MSE =N1⋅2(yj∗−yj)⋅(−1)=N2(yj−yj∗)
得られた式から、次のことが理解できます。
yj<yj∗の場合は∂yj∂MSE<0なので、yjを増やすとMSEが減少する
yj>yj∗の場合は∂yj∂MSE>0なので、yjを減らすとMSEが減少する
この理解に従って予測値yjを調節したいのですが、yjを直接変更することはできません。
パラメータを変えると予測が変わる
そこで、各パラメータ(aとb)を調節してyjを変更し、MSEの値を小さくすることを考えます。
まず、yjをaとbに関してそれぞれ偏微分します。
∂a∂yj∂b∂yj=∂a∂(axj+b)=xj=∂b∂(axj+b)=1
この結果をまとめると、以下になります。
よって、aとbを調節し、yjの値を変更することで、MSEを最小化することが可能です。そこで、偏微分の連鎖律(チェーンルール)を使ってaとbの各パラメータによるMSEの変化率を表現します。
∂a∂MSE∂b∂MSE=j=1∑N∂yj∂MSE⋅∂a∂yj=N2j=1∑N(yj−yj∗)xj=j=1∑N∂yj∂MSE⋅∂b∂yj=N2j=1∑N(yj−yj∗)
つまり、パラメータaやbを変化させるとyjの値が変わり、それに連なってMSEが変化します。この変化を全ての予測値y1,…,yNに対して計算し足し合わせれば、パラメータaやbを変化させた時のMSEへの影響度がわかります。
勾配と逆方向にパラメータを調節する
また、各パラメータによるMSEの変化率から以下の関係が成り立ちます。
∂a∂MSE<0場合は、aを増やすとMSEが減少する。
∂a∂MSE>0場合は、aを減らすとMSEが減少する。
∂b∂MSE<0場合は、bを増やすとMSEが減少する。
∂b∂MSE>0場合は、bを減らすとMSEが減少する。
これを簡潔に表現するために、MSEのパラメータに関する勾配を次のように定義します。
∇MSE=(∂a∂ MSE, ∂b∂ MSE)
つまり、この勾配は各パラメータによる誤差の偏微分をベクトルにしたものです。これによって、パラメータ空間においてどの方向にパラメータを動かすと、誤差が増えるのかがわかります。よって、勾配の逆方向にパラメータを調節することで誤差を減少させることができます。これが勾配降下法の基本的な仕組みです。
勾配降下法におけるパラメータ更新のアルゴリズムにはいろいろな手法が存在します。例えば、学習率(更新の度合い)を学習の進み具合などによって調節したりします。これらパラメータの更新を行うアルゴリズムやその実装を総称してオプティマイザ(最適化装置)と呼びます。
参考:学習率の最適化なお、勾配を計算する過程では、誤差からパラメータへと偏微分を連鎖させています。これはフィードフォワード(順方向)とは逆向きになっており、この手法が「誤差逆伝播法」と呼ばれる所以です。
もっと複雑に連鎖する計算や非線形の変換などを含めても基本的な考え方は同じです。
関連記事