事前学習済みのLLMに対して行う「ファインチューニング」の説明として、最も適切なものはどれか。
- 1モデルのパラメータは一切変更せず、プロンプトの中に入出力の例を示すことで出力を調整する
- 2まだ何も学習していない状態のモデルに、インターネット上の大規模なテキストを最初から学習させる
- 3モデルが生成した回答から不適切な表現を自動で削除するフィルタを、モデルの後段に追加する
- 4特定のタスクや分野のデータを用いて追加で学習を行い、モデルのパラメータを調整する
正解と解説を見る
正解：4
ファインチューニングは、事前学習で汎用的な知識を身につけたモデルに対し、特定のタスクや分野のデータで追加学習を行ってパラメータを調整する手法です。ゼロから学習するよりも少ないデータと計算資源で、目的に合った振る舞いを身につけさせることができます。選択肢1はFew-shotプロンプティング（文脈内学習）、選択肢2は事前学習の説明であり、選択肢3の出力フィルタはモデル自体を変更しません。「ファインチューニング＝事前学習済みモデルを追加学習してパラメータを調整する」と覚えておきましょう。
根拠：事前学習とファインチューニング（転移学習）の枠組み