LLM(大規模言語モデル)の「コンテキストウィンドウ」の説明として、最も適切なものはどれか。
- 1モデルが一度に扱える入力と出力を合わせたトークン数の上限であり、これを超えた古い会話や長い文書の一部は参照できなくなる。
- 2モデルが事前学習に用いたデータがいつ時点までのものかを示す期間であり、これより後の出来事については知識を持たない。
- 3ユーザーとの過去の会話内容をモデルのパラメータに書き込み、次回以降の利用でも恒久的に記憶しておく仕組みである。
- 4モデルが持つパラメータの総数を示す指標であり、この値が大きいほど一度に入力できる文章も長くなる。
正解と解説を見る
正解:1
コンテキストウィンドウは、LLMが1回の処理で参照できるトークン数の上限です。通常はプロンプト・会話履歴・生成する出力を合わせた量で、上限を超えた部分はモデルから見えなくなります。2は学習データの期限を表す「ナレッジカットオフ」の説明なので誤りです。3は誤りで、通常の対話では会話のたびにパラメータが更新されることはありません。4はパラメータ数(モデルの規模)とコンテキスト長を混同しています。コンテキストウィンドウとは「一度に読める・書けるトークン量の上限」であり、学習時期やモデル規模とは別の概念だと押さえておきましょう。
根拠:LLMの基本概念(トークン、コンテキストウィンドウ/コンテキスト長)