メインコンテンツへスキップ
見出し画像

誤差逆伝播法を簡単に説明してみる

    簡単な例を使って誤差逆伝播法をおさらいします。

    モデルを更新する目的

    体重から身長を予測することを考えます。そのための訓練データとして、次のように入力値と正解値がペア(対)として与えられているとします。

    (体重1,身長1),(体重2,身長2),…,(体重N,身長N)(\text{体重}_1, \text{身長}_1), (\text{体重}_2, \text{身長}_2), \ldots, (\text{体重}_N, \text{身長}_N)

    数式にしやすいように、これらの値を(xi,yi∗)= (体重i,身長i)(x_i, y^*_i) = (\text{体重}_i, \text{身長}_i)と表現することにします。なお、*印をつけたのは、後で正解の値とモデルによる予測の値とを区別しやすくするためです。

    モデルは体重xix_iから身長を予測してyiy_iを出力します。

    yi=model(xi)y_i = \text{model}(x_i)

    ここではモデルの具体的な形として、直線の式を考えます。

    yi=axi+by_i = a x_i + b

    aaは直線の傾きで、bbは直線の切片です。aaとbbをまとめて、このモデルのパラメータと呼びます。これはモデルの一部と考えられ、モデルを更新することはパラメータを調節することです。

    我々が目指すのは、モデルの予測yiy_iが正解yi∗y^*_iに近くなるようにモデルのパラメータを調節しモデルを更新することです。

    予測を変えると誤差が変化する

    そこで、モデルの予測誤差を評価するために、例として平均二乗誤差(Mean Squared Error、MSE)を使用します。

    MSE=1N∑i=1N(yi∗−yi)2\text{MSE} = \frac{1}{N} \sum\limits_{i=1}^N \left(y^*_i - y_i\right)^2

    ここで、NNはデータポイントの数です。

    なお、ここであらかじめ12\frac{1}{2}をかけておくと後で微分した時に2が打ち消しあってスッキリしますが、本質ではないのでここのままで進めます。

    このMSEの値を小さくするために、ある予測値yjy_jを変化させた場合のMSEの反応を考えます。つまり、MSEをyjy_jで偏微分します。

    ∂MSE∂yj= ∂∂yj1N∑i=1N(yi∗−yi)2=1N∑i=1N∂∂yj(yi∗−yi)2=1N∑i=1N2(yi∗−yi)∂(−yi)∂yj \begin{aligned} \frac{\partial \text{MSE}}{\partial y_j} &= \frac{\partial }{\partial y_j} \frac{1}{N} \sum\limits_{i=1}^N \left(y^*_i - y_i\right)^2 \\ &= \frac{1}{N} \sum\limits_{i=1}^N \frac{\partial }{\partial y_j} \left(y^*_i - y_i\right)^2 \\ &= \frac{1}{N} \sum\limits_{i=1}^N 2 \left(y^*_i - y_i\right) \frac{\partial (-y_i)}{\partial y_j} \\ \end{aligned}

    ここで、yiy_iがyjy_jに依存するのは、i=ji = jの時だけです。したがって、次のように簡略化できます。

    ∂MSE∂yj=1N⋅2(yj∗−yj)⋅(−1) =2N(yj−yj∗) \begin{aligned} \frac{\partial \text{MSE}}{\partial y_j} &= \frac{1}{N} \cdot 2\left(y^*_j - y_j\right) \cdot (-1) \\  &= \frac{2}{N} \left( y_j - y^*_j \right)  \end{aligned}

    得られた式から、次のことが理解できます。

    • yj<yj∗y_j < y^*_jの場合は∂MSE∂yj<0\dfrac{\partial \text{MSE}}{\partial y_j} < 0なので、yj y_jを増やすとMSEが減少する

    • yj>yj∗y_j > y^*_jの場合は∂MSE∂yj>0\dfrac{\partial \text{MSE}}{\partial y_j} > 0なので、yj y_jを減らすとMSEが減少する

    この理解に従って予測値yjy_jを調節したいのですが、yjy_jを直接変更することはできません。

    パラメータを変えると予測が変わる

    そこで、各パラメータ(aaとbb)を調節してyjy_jを変更し、MSEの値を小さくすることを考えます。

    まず、yjy_jをaaとbbに関してそれぞれ偏微分します。

    ∂yj∂a=∂(axj+b)∂a=xj∂yj∂b=∂(axj+b)∂b=1\begin{aligned} \frac{\partial y_j}{\partial a} &= \frac{\partial (a x_j + b)}{\partial a} = x_j \\[2ex] \frac{\partial y_j}{\partial b} &= \frac{\partial (a x_j + b)}{\partial b} = 1 \end{aligned}

    この結果をまとめると、以下になります。

    • aaを1増やすと予測値yjy_jがxjx_jだけ増える

    • bbを1増やすと予測値yjy_jが11だけ増える

    よって、aaとbbを調節し、yjy_jの値を変更することで、MSEを最小化することが可能です。そこで、偏微分の連鎖律(チェーンルール)を使ってaaとbbの各パラメータによるMSEの変化率を表現します。

    ∂MSE∂a=∑j=1N∂MSE∂yj⋅∂yj∂a=2N∑j=1N(yj−yj∗)xj∂MSE∂b=∑j=1N∂MSE∂yj⋅∂yj∂b=2N∑j=1N(yj−yj∗)\begin{aligned} \frac{\partial MSE}{\partial a} &= \sum\limits_{j=1}^N \frac{\partial MSE}{\partial y_j} \cdot \frac{\partial y_j}{\partial a} = \frac{2}{N} \sum\limits_{j=1}^N \left( y_j - y^*_j \right) x_j \\ \frac{\partial MSE}{\partial b} &= \sum\limits_{j=1}^N \frac{\partial MSE}{\partial y_j} \cdot \frac{\partial y_j}{\partial b} = \frac{2}{N} \sum\limits_{j=1}^N \left( y_j - y^*_j \right) \end{aligned}

    つまり、パラメータaaやbbを変化させるとyjy_jの値が変わり、それに連なってMSEが変化します。この変化を全ての予測値y1,…,yNy_1, \ldots, y_Nに対して計算し足し合わせれば、パラメータaaやbbを変化させた時のMSEへの影響度がわかります。

    勾配と逆方向にパラメータを調節する

    また、各パラメータによるMSEの変化率から以下の関係が成り立ちます。

    • ∂MSE∂a<0\dfrac{\partial \text{MSE}}{\partial a} < 0場合は、aaを増やすとMSEが減少する。

    • ∂MSE∂a>0\dfrac{\partial \text{MSE}}{\partial a} > 0場合は、aaを減らすとMSEが減少する。

    • ∂MSE∂b<0\dfrac{\partial \text{MSE}}{\partial b} < 0場合は、bbを増やすとMSEが減少する。

    • ∂MSE∂b>0\dfrac{\partial \text{MSE}}{\partial b} > 0場合は、bbを減らすとMSEが減少する。

    これを簡潔に表現するために、MSEのパラメータに関する勾配を次のように定義します。

    ∇MSE=(∂ MSE∂a, ∂ MSE∂b)\nabla \text{MSE} = \left(\frac{\partial \text{MSE}}{\partial a}, \frac{\partial \text{MSE}}{\partial b}\right)

    つまり、この勾配は各パラメータによる誤差の偏微分をベクトルにしたものです。これによって、パラメータ空間においてどの方向にパラメータを動かすと、誤差が増えるのかがわかります。よって、勾配の逆方向にパラメータを調節することで誤差を減少させることができます。これが勾配降下法の基本的な仕組みです。

    勾配降下法におけるパラメータ更新のアルゴリズムにはいろいろな手法が存在します。例えば、学習率(更新の度合い)を学習の進み具合などによって調節したりします。これらパラメータの更新を行うアルゴリズムやその実装を総称してオプティマイザ(最適化装置)と呼びます。

    参考:学習率の最適化

    なお、勾配を計算する過程では、誤差からパラメータへと偏微分を連鎖させています。これはフィードフォワード(順方向)とは逆向きになっており、この手法が「誤差逆伝播法」と呼ばれる所以ゆえんです。

    もっと複雑に連鎖する計算や非線形の変換などを含めても基本的な考え方は同じです。

    関連記事

     
     
    「わかりやすく、具体的に」AIとサイエンスの情報を発信中

    あなたへのおすすめ