特徴量Feature

何を見るか選ぶことが半分です

同じ資料を前にしても、どの値を取り出して使うかで結果は大きく変わります。中古車の値段を当てる仕事なら年式と走行距離は欠かせず、ナンバープレートの数字は何の役にも立ちません。必要な値が抜けていると、どんな良い方法を使っても当てられません。

ある値をそのまま使わず手を加えて使うこともあります。生年月日よりも年齢のほうが使いやすく、出荷日と今日の日付よりもその間の年数のほうが使いやすいです。こうして元のデータから判断に役立つ値を作り出すことを特徴量エンジニアリングと呼びます。

機械学習が広く使われ始めた頃は、この作業が仕事の大半でした。その分野をよく知る人が何を見るべきか選んでやることが、モデルを変えるより効果が大きかったからです。

関係のない値はかえって邪魔になります

値をたくさん入れるほど良さそうに思えますが、そうではありません。判断と無関係な値が混ざると、モデルはその値から偶然生まれた規則を捕まえてしまいます。たまたま学習資料でナンバープレートの数字が大きい車が高かったなら、モデルはその関係を本物だと思って覚えてしまいます。

こうした値は学習資料でしか通用せず、新しい資料ではすぐに崩れます。だから特徴量を選ぶときは入れる値を増やすことより、役に立たない値を取り除くことにずっと気を配ります。

似た値がいくつも重なるのも問題です。身長をセンチメートルで入れてメートルでも入れると、新しく教えることは何もないのに計算だけ増えます。

特徴量とラベルは立場が違います

資料一件を表の一行だと考えると、前のほうの列が特徴量で、いちばん後ろの列がラベルです。特徴量はモデルが見て答えを作らなければならない問題用紙で、ラベルは人があらかじめ書いておいた答案用紙です。

学習するときは両方必要です。特徴量を見て出した答えとラベルを照らし合わせ、間違った分だけ数値を直していくからです。ですが実際に使うときはラベルがありません。新しく入ってきた資料には特徴量しかなく、その答えを見つけ出すのがモデルの仕事だからです。

この立場を取り違えると大きなミスにつながります。答えがわかっていないと埋められない値を特徴量に混ぜてしまうと、試験の点数はとても良く出ますが、実際の場面ではその値を用意できず何の役にも立ちません。

数値に変わってこそ計算に入ります

モデルは文字や絵をそのままでは扱えません。どんな特徴量も結局は数値に変わる必要があります。冷蔵か常温かのような値は、あるとないとを表す枠に広げ、地域や分類のように順序のない値も同じように枠を分けて表します。

大きさがまちまちな値は目盛りも合わせてやる必要があります。ある値は0から1の間を動くのに、別の値は数十万単位で動くと、大きい値が判断をまるごと引っ張ってしまいます。だから値の幅を似た大きさに合わせる手入れを事前にしておきます。

最近は材料を自分で見つけ出します

ディープラーニングが広く使われるようになって、この構図は大きく変わりました。写真から何を見るべきか人が教えなくても、幾層も重ねたモデルが元の画素から使える材料を層ごとに作り出します。手前の層は線や角のような単純なものを、奥の層は車輪や顔の輪郭のような塊を捕まえる、という具合です。

それでも人の役目がなくなったわけではありません。どんな資料を入れるか、どの値をそもそも除くべきかは今も人が決めます。特に年齢や地域のように偏りにつながりかねない値は、入れるかどうか慎重に判断する必要があります。