過学習Overfitting

問題集、小テスト、試験用紙

AIを学習させるとき、持っているデータを一つのかたまりのまま使いません。だいたい8対1対1の割合で三つに分けます。訓練データは、モデルが実際に見て学ぶ問題集です。検証データは学習の途中で受ける小テストです。いつ止めるか、層をいくつ積むかといった決定は、この点数を見て下します。テストデータは、すべて終わったあとに一度だけ取り出す試験用紙です。

なぜわざわざこう分けるのでしょうか。訓練データで採点するのは、模範解答を開いたまま採点するのと同じだからです。丸暗記したモデルでも満点が出ます。ところが検証データだけを見ながら設定を何十回も直していると、今度は開発者のほうが検証データに合わせてモデルを作り込んでしまいます。ですから、最後まで一度も見ていない試験用紙を別に残しておきます。

点数が分かれる瞬間

学習が進むあいだ、訓練の誤差と検証の誤差を並べて描いてみると、過学習が目に見えます。誤差はまちがいの度合いです。はじめは二つとも仲良く下がっていきます。モデルが本物の規則を学んでいるということです。

そのうち、ある地点で分かれます。訓練の誤差は底へ向かって下がり続けるのに、検証の誤差だけがそっと向きを変えて上がり始めます。ここからモデルは、規則ではなく訓練データにしかない偶然の特徴を学んでいます。二本の線が開き始めた幅が、そのまま過学習の大きさです。

なぜ覚えるほうへ傾くのでしょうか

一つ目は、モデルがデータに比べて複雑すぎるときです。調節できる値が何百万個もあるのに例が数百枚しかなければ、共通の規則を探すより例を一つずつしまい込むほうが、誤差を下げる近道になります。

二つ目は、データが少ないか、片方に偏っているときです。学習に使った猫の写真がすべてソファの上で撮られていたら、モデルはソファの模様まで猫の条件として覚えます。芝生に座った猫に出会うと自信をなくします。

三つ目は、同じデータを長くくり返して見るときです。はじめの数周は実力がぐんぐん伸びます。そのあとは、写真に混じったしみや照明のような雑音まで規則として受け入れ始めます。

覚えさせないための四つの方法

早期終了は、検証の点数がそれ以上良くならなければ学習をその場で止める方法です。二本の線が分かれる地点が、ちょうど止まる場所です。正則化は、特定の値が大きくなりすぎたら罰点を与えて、モデルが一つの手がかりだけに大きく寄りかからないよう抑えます。

ドロップアウトは、学習のたびにニューロンの一部をでたらめに切ってしまいます。どのニューロンが抜けるかわからないので、特定のニューロン一つに答えを預けて覚えておくことができません。データ拡張は、写真を裏返し、回し、明るさを変えて問題集そのものを増やします。もちろんいちばん確かなのは、新しいデータをもっと集めることです。

反対側の失敗と本当の目標

反対の方向に倒れることもあります。モデルが単純すぎて訓練データすら当てられない状態を、学習不足といいます。このときは訓練の点数からして低いので、見分けるのは簡単です。もっと大きくするか、もっと長く学習させれば直ります。

良いモデルは、この二つのあいだのどこかにあります。訓練の点数と検証の点数が並んで高い地点です。私たちが欲しいのは問題集をうまく解く力ではなく、初めて見る問題を解く力です。その力を汎化と呼びます。