アンサンブル学習の一つである勾配ブースティングに関する説明として、最も適切なものを選べ。
- 1複数の弱学習器を並列に独立して学習させ、それらの予測の多数決または平均をとって最終的な予測とする。
- 2異なる種類のモデルの予測値を入力として、さらに別のモデル（メタモデル）に最終的な予測を学習させる。
- 3それまでの学習器の予測で残った誤差（損失関数の勾配）を小さくするように、新たな弱学習器を逐次的に追加していく。
- 4学習器を逐次的に追加していくため、学習器の数を増やすほど汎化性能は必ず向上し、過学習は起こらない。
正解と解説を見る
正解：3
勾配ブースティングでは、それまでの学習器の予測で残った誤差を損失関数の勾配にもとづいて補うように、新しい弱学習器を順番に追加していきます。弱学習器を並列に学習して多数決や平均をとるのはバギングで、複数モデルの出力をメタモデルに入力するのはスタッキングです。ブースティングも学習器を増やしすぎれば過学習するため、学習率の調整や早期終了が使われます。「バギングは並列で独立、ブースティングは逐次的に誤りを補う」という対比を押さえておきましょう。
根拠：アンサンブル学習（バギング、ブースティング、スタッキング）