テキスト生成AIのチャットサービスで、冒頭に「訳語は社内用語集に従う」「です・ます調で統一する」などの条件を示したうえで、同じ会話の中で長いマニュアルを数十回に分けて翻訳させていた。ところが、会話が長くなるにつれて冒頭の条件が守られない出力が増えてきた。この現象の説明と対処として、最も適切なものはどれか。
- 1一度に扱える文脈の量(コンテキストウィンドウ)には上限があり、長い会話では冒頭の指示が参照されなくなったり反映されにくくなったりすることがあるため、重要な条件を改めて示すか、条件を整理して新しい会話でやり直す。
- 2AIが会話を通じて学習し、モデル自体が更新されて元の指示を忘れたため、サービス提供者にモデルの再学習を依頼する。
- 3出力のランダム性を決めるパラメータが会話の長さに応じて自動的に上がる仕組みのため、条件を改めて示しても効果はない。
- 4翻訳は生成AIが原理的に扱えないタスクであるため、条件の示し方にかかわらず、翻訳に生成AIを使わないようにする。
正解と解説を見る
正解:1
テキスト生成AIが一度に参照できる文脈の量(コンテキストウィンドウ)には上限があり、会話が長くなると冒頭の指示が参照範囲から外れたり、反映されにくくなったりすることがあります。対処としては、重要な条件を改めて示すか、条件を整理し直して新しい会話で始めるのが有効です。チャットでのやり取りによってモデル自体がその場で再学習されるわけではなく、会話の長さに応じてランダム性のパラメータが自動で上がる仕組みもありません。長い会話では、重要な条件を適宜示し直すことを覚えておきましょう。
根拠:コンテキストウィンドウ(LLMが一度に扱えるトークン数の上限)