予測Prediction

予測は言い当てではなく根拠を立てること

予測というと、まず「よく当たるか」を聞きがちです。ですが、予測する側から見ると順序は逆です。答えをすでに知っている状態で答えを言うのは予測ではなく確認です。答えを知らない状態で、今手元にあるものだけからいちばんそれらしい値を立てることが予測です。

だから予測にはいつも二つの部分があります。何を見て判断したのか、そしてその判断がどれだけ確かなのかです。気圧と雲の写真を見て立てた予報と、昨日の天気だけを見て立てた予報は、同じ70%でも重みが違います。

AIがしていることもこの形です。学習で見た数多くの事例に残った規則を取り出し、初めて見る入力にその規則を当てはめて値を出します。規則をどれだけうまく取り出しておいたかが、予測の質を決めます。

予測は確率で出ます

モデルの中では、予測はたいてい複数の候補に配られた点数という形で作られます。明日雨が降る70、降らない30、というふうにです。画面に「雨」という一文字しか見えないのは、いちばん点数の高い候補一つだけを選んで見せているからです。

この点数を一緒に見ると判断が変わります。70と30に分かれた予測と、51と49に分かれた予測は、どちらも「雨」と答えていますが、信頼できる度合いはまったく違います。後者は実はモデル自身も迷っているという意味です。

だから予測を使う場面では、選ばれた答えだけを受け取るのではなく、点数まで一緒に受け取っておくほうがよいのです。点数が低ければ人にもう一度確認させたり、答えそのものを保留させたりできます。

未来だけを予測するのではありません

予測という言葉のせいで未来を思い浮かべがちですが、時間とは関係がありません。まだ確かめられていない値であれば何でも予測の対象です。写真に写っている物体が何か、先月このデータがどの部署のものだったか、抜けている欄に本来どんな値があったかも、すべて予測です。

気象データで言えば、観測所のない山あいの村の昨日の気温を、周辺の観測値で埋めることも予測です。昨日はすでに過ぎていますが、その村の気温は誰も測っていないからです。

AIサービスが出す答えはほとんどがこの意味での予測です。翻訳文の一行、おすすめの一覧、スパム判定まで、すべて「確かめられていない値を資料で埋めた結果」です。

うまくいっているかは後で測ります

予測の成績は答えが明らかになってからはじめて付けられます。予報と実際の天気を並べて記録し、一日ではなく何か月分もまとめて見て、この予報が使えるかどうかがわかります。一度当たったから良い予報でもなく、一度外れたから悪い予報でもありません。

雨の可能性を70%と言った日を全部集めたとき、実際に十回のうち七回くらい雨が降っていたなら、その予報は数字を正直に使っているということです。こうして予測を実際の結果と突き合わせる過程がなければ、予測はただそれらしい言葉にとどまります。

経験のない天気には弱い

予測は過去の記録に頼ります。だから過去の記録になかった形が現れると力を失います。観測史上なかった豪雨が来る日に、予報が特に乱れるのはこのためです。頼る事例がないので、いちばん似ていそうな古い事例を無理やり引っ張ってくることになります。

AIモデルも同じです。学習で見た範囲の中では驚くほどうまくいきますが、範囲を外れた入力が入ると見当違いの値を出します。もっと困るのは、そのときも点数が高く出ることがある点です。自信ありげな様子と正しさは別物です。