データ拡張Data Augmentation

何をどう変えるか

写真なら左右に反転させ、一部を切り出し、少し回転させ、明るさと色合いを変えます。拡大したり、一部を四角く隠したりもします。一つひとつは些細に見えますが、こうした手直しを組み合わせると、元の一枚から数十通りの姿が生まれます。

文章なら意味の近い言葉に置き換えたり、別の言語に訳してから戻したりして表現を揺らします。音声なら速度を少し変えたり雑音を混ぜたり、響きを加えたりします。どのデータを扱うにしても原理は同じです。答えと関係のない部分だけを揺らすことです。

大事なのはラベルに手をつけないことです。反転した写真も同じ答えを指します。ですから、データを増やしながら人が改めてラベルをつけ直す必要はありません。データを集めるコストに比べれば、ほとんどただ同然です。

なぜ成績が上がるのか

データが少ないと、モデルはそのデータの些細な特徴まで覚え込んでしまいます。たまたま学習に使った猫の写真が全部左を向いていたら、右を向いた猫を見分けられなくなることが起きます。データに偶然混ざった規則を本物の規則と勘違いしたのです。

拡張をかけるとこの勘違いが崩れます。左を向いた写真と反転した写真が同じ答えを指すので、向きは答えと関係がないと学ぶようになります。結果として、学習に使わなかったデータでも成績が保たれます。

拡張は学習するときだけかけます。成績を測るデータにまでかけると、何を測っているのか分からなくなるからです。多くの場合、データを束にして読み込むたびにその場で無作為に変形を選んでかけます。同じデータが毎回少しずつ違う姿で入ってくることになります。

やりすぎるとかえって悪くなります

コースを変えるのもコートの中でこそ練習になります。観客席へ飛んでいく球を受ける練習は試合の役に立ちません。拡張も同じです。写真を逆さまに反転させたり色を見分けられないほど変えたりすると、実際には出会うはずのないデータで学習することになります。

向きを反転すると意味が変わってしまうデータもあります。数字や文字を左右反転すると別の文字になったり、そもそも文字でなくなったりします。医療写真のように左右が意味を持つデータも同様です。だからどんな変形をかけるかは、データの性質を見て選ぶ必要があります。

データを増やすこととは違います

拡張はデータの量を増やしてくれますが、情報の量までは増やしてくれません。反転した写真には、元の写真になかった新しい事実は含まれていません。学習に使ったデータにそもそもなかった種類は、いくら変形しても生まれません。

だから拡張はデータをもっと集める作業の代わりにはなりません。データが不足しているとき、その中から引き出せる限りを引き出す手段に近いものです。種類が一方に偏ったデータなら、拡張より不足している側を集めるほうがよい結果につながります。