ファインチューニングFine-Tuning
学習済みモデルを新しい資料でさらに整える
- ファインチューニングはすでに学習を終えたモデルを新しい資料でさらに少し整える作業です。最初から教え直しません。
- 手を入れる範囲はモデルの全体です。内側の値が全部少しずつ動きます。だから出来上がるのは元のモデルとは違う新しいモデルです。
- ほんの少しずつ動かすのがこつです。大きく動かすと元々持っていた実力が崩れます。
- 得意な使い道は話し方と形式、そしてその分野の文書を扱う結です。なかった知識を新しく詰め込むのには向きません。
- 転移学習という大きな傘の下の一つの方法です。本体に触れない軽い方法も別にあります。
目次
1たとえで理解する
既製服を一着買ってきたとします。肩の線も袖の長さもだいたい合っていますが、どこかゆったりしています。仕立て直しに出しても、服を最初から作りはしません。生地を新しく裁つことも、型紙を新しく起こすこともありません。糸を少しほどいて肩を一つまみ縮め、袖を二回折って縫い、ウエストを少し詰めます。ミシンが通る場所は短く、服の骨組みはそのままです。その代わり手を入れる場所は服全体に散らばっています。肩だけ縮めると袖がおかしくなるので、一緒に少しずつ動かす必要があるからです。欲張って大きくほどくと元の服の見栄えが崩れ、元に戻すのも難しくなります。ファインチューニングは、出来上がった服の骨組みは残したまま全体を少しずつ直して体に合わせる作業です。
2くわしく
最初から仕立てません
大きなモデルを最初から教える作業は、生地を買ってきて型紙を起こす作業と同じです。資料も時間も費用も、個人が持てる規模ではありません。ファインチューニングはその段階を飛び越えます。すでに仕立てられた服を買ってくるようなものだからです。
だから必要な資料がぐっと減ります。うまく作られた例が数百から数千件あれば結果が目に見えて変わります。数時間から一日ほどで終わることが多く、大きなモデルを土台から作る作業とは桁が違う規模です。
少しずつ、ごく少しずつ
仕立て直しで大事なのはどれだけ少ししか動かさないかです。ファインチューニングも同じです。値を一度にどれだけ動かすかを決めるつまみを、とても小さく取ります。最初に教えるときよりずっと小さくです。
大きく取ると新しい資料だけに大きく偏ります。何回か回すだけで終わらせるのもこのためです。同じ資料を何周も回すと、その例を丸ごと覚えてしまい、少し違う頼み事が来ただけでぎこちない答えを出します。
何を教えられるか
ファインチューニングが得意なのは形式と話し方と結です。いつも同じ枠で答えさせること、会社の文書の言い回しに合わせること、特定の分野で使う表現を不自然なく扱うことなどです。仕立て直しで言えば、丈と幅を体に合わせる作業です。
反対に、新しい知識を詰め込む作業には向いていません。社内規定数百件をファインチューニングで覚えさせると、それっぽい言葉をでっち上げやすくなります。そういう仕事は必要な文書をその都度探して添える方式のほうが確実です。服の仕立て直しでポケットの中身を変えられないのと同じです。
手を入れすぎると元の服が壊れます
新しい資料で長く整えると、モデルが元々得意だった仕事を忘れます。法律文書の話し方だけを何周か教えたら、普段の会話が硬くなり計算問題が解けなくなる、といったことが起きます。この現象を破壊的忘却と呼びます。
服で言えばウエストを締めすぎて腕が上がらない状態です。だから新しい資料だけを入れず、元々得意だった種類の例を少し混ぜたり、整える前後を同じ物差しで測って失ったものがないか確かめたりします。整えたあとは元のモデルを消さずに残しておきます。服と違い、モデルは原本をそのまま保管できるからです。
丸ごと直すか、付け足すだけか
ファインチューニングはモデルの内側の値を全部少しずつ動かします。それだけ結果はよく出ますが、終えるたびに元と同じ大きさの新しいモデルが一つ増えます。用途が十個あれば大きなモデルが十着積み上がるわけです。
だから本体はそのままにして小さな付け足しだけを学ぶ方法が広く使われます。付け足しはとても軽いので、必要なときに入れ替えられます。資料がとても多く、結果の最後の一歩まで必要なときは、それでも全体を整えるほうを選びます。
3もう少し正確に
ファインチューニングは、事前学習を終えたモデルのパラメータを出発点にして、目標課題の資料で学習を回し直しパラメータ全体を更新する方法です。学習率を小さく取り、回す回数を少なくするのが普通です。
たとえがずれる点もあります。服は糸をほどいた場所だけが変わりますが、ファインチューニングは目に見える特定の部位ではなく、モデルの内側の値が全体的に少しずつ変わります。どこがどれだけ変わったか人が指し示すのは難しいです。また仕立て直しは元に戻しにくいですが、モデルは原本ファイルが残っているのでいつでも最初の状態に戻せます。そして人の好みの点数で整える段階や指示に従うよう合わせる段階のように、ファインチューニングという名前の下に目的の違う複数の段階がまとめて呼ばれることもあります。どの段階を指す言葉なのかは前後の文脈を見て読み分ける必要があります。同じ「ファインチューニング」という言葉でも、記事によって指している段階が違うことは珍しくありません。
4やってみる
5よくある誤解
ファインチューニングをすればモデルが新しい知識を覚えると思われがちですが、実際には話す結が変わる側に近いです。事実を正確に含める必要があるなら、文書を探して添える方式のほうがよいです。
資料は多いほどよいと考えられがちですが、実際にはよく整えた例数百件が雑然とした数万件より優れる場合がよくあります。
一度整えれば元の実力はそのまま残ると思われがちですが、実際には得意だった仕事を失うこともあるので、前後を同じ物差しで測る必要があります。
7ひとこと要約
つまりファインチューニングは、すでに完成したモデルの骨組みを残したまま内側の値全体を少しずつ動かし、望む結果に体を合わせて仕立て直す方式です。
誤りや、もっと良いたとえがありますか？ 修正を提案する · 最終更新2026-09-02