大規模言語モデルの事前学習では、大量のテキストについて「文中で次に続く単語（トークン）を予測する」課題を解かせることが多い。この方法は、人手で付けた正解ラベルを使わず、データそのものから正解を自動的に作り出して学習する。このような学習の枠組みを表す用語として、最も適切なものはどれか。
- 1半教師あり学習
- 2人間のフィードバックによる強化学習（RLHF）
- 3自己教師あり学習
- 4能動学習
正解と解説を見る
正解：3
テキストの一部を隠したり次の単語を予測させたりして、データ自体から正解を作り出して学習する枠組みは自己教師あり学習と呼ばれ、大規模言語モデルの事前学習の中心となっています。半教師あり学習は、少量のラベル付きデータと大量のラベルなしデータを組み合わせる手法で、人手のラベルを一部使う点が異なります。RLHFは、事前学習の後に人間の評価を報酬としてモデルの出力を調整する段階で使われる手法です。能動学習は、モデルがラベル付けすべきデータを選んで人間に問い合わせる手法です。覚えておきたいのは、LLMの事前学習は人手のラベルを使わない自己教師あり学習であり、RLHFはその後の調整段階で使われるという点です。