勾配降下法Gradient Descent

下がっていくのは「間違いの度合い」

駐車場で下がるのは高さですが、学習で下がるのは誤差です。モデルが出した答えと本当の正解がどれだけ離れているかを一つの数値で測った値です。この数字が大きければまだ上の階、小さければずいぶん下りてきた場所です。

この数字を動かすつまみはモデルの中にあります。学習で調整される値、つまりつながりごとに付いた重みと偏りです。つまみを一つ回すと、誤差が少し上がったり下がったりします。勾配降下法は、このつまみを誤差が下がる方へ少しずつ回していく作業です。

大きなモデルには、つまみが数百万個から数千億個まであります。駐車場でいえば数百万方向へ傾ける床の上に立っているようなもので、絵には描けませんが、計算のやり方は方向がいくつあっても変わりません。つまみが増えても、一つずつ確かめる手間が増えるだけで、やること自体は変わらないのがこの方法の強みです。

傾きは足元しか見ないで分かる

モデルは地形全体を見下ろせません。見えるのは今立っている場所の傾きだけです。つまみを一つほんの少し回したとき誤差がどれだけ上下するかをつまみごとに計算すると、その束がそのまま今いる場所の下り方向になります。

この計算を実際にこなす手順が誤差逆伝播です。答えを出したあと、間違いの度合いを後ろの段階から順にさかのぼって分け、つまみごとに「あなたはこちらへこれだけ」という分け前を取り出します。勾配降下法は、その方向どおりに値を動かす役目を担います。

足元しか見ないことは弱点であり強みでもあります。遠くのどこがもっと低いかは最後まで分かりませんが、地形をすべて調べなくてよいので、つまみが数千億個あっても一歩を計算できます。すべての場所を一つひとつ試す方式だったら、学習は始めることさえできなかったでしょう。

一歩の大きさとコツは別に決める

下り方向が分かったからといって、どれだけ進むかが決まるわけではありません。一歩で動かす量は学習率が別に決めます。大きく取れば速く下りられる代わりに底を通り過ぎて反対側の壁を上ってしまうこともあり、小さく取れば安全ですが一日中同じ階にとどまります。

進み方のコツを整えるのはオプティマイザです。ずっと同じ方向へ下り続けているなら勢いを付け、方向によって一歩の幅を変えることもあります。方向は勾配降下法が、幅は学習率が、コツはオプティマイザが受け持つわけです。三つの役割はそれぞれ別の場所で決まりますが、実際に体に染みついた一歩として現れるのはいつも一つの動きです。

平らに見えても底とは限らない

下りていくと、四方が上り坂の場所に出くわすことがあります。もう下がれる先がないので、足が止まります。ですが、その場所が駐車場の一番下の階だという保証はありません。中間階の片隅にある浅いくぼみかもしれません。

それでも実際の学習がうまく進むのは、つまみがとても多くなると四方が完全にふさがれた浅いくぼみはまれになり、たいていの止まり場所が十分に低いからです。データを少しずつ分けて見ると足元の傾きが毎回わずかに変わることも、浅いくぼみから抜け出す助けになります。止まった場所が本当に十分低いかどうかは、結局そこから答えを出させてみて確かめるしかありません。