ある金融機関は、顧客情報を含むデータを外部のクラウドサービスに送らず、計算資源が限られた自社サーバーの中で生成AIを運用したいと考えている。この方針に沿った選択として最も適切なものはどれか。
- 1パラメータ数を抑えた小規模言語モデル(SLM)を選び、自社サーバー内(オンプレミス)で運用する
- 2外部APIで提供される大規模モデルを契約し、入力データが学習に使われない設定にしたうえで顧客情報を送信する
- 3公開されているモデルの中で最もパラメータ数の多いものを選び、既存の自社サーバーでそのまま運用する
- 4一般消費者向けの無料チャットサービスを全社員に開放し、顧客情報の入力を許可する
正解と解説を見る
正解:1
小規模言語モデル(SLM)はパラメータ数が少ないため必要な計算資源も少なく、オンプレミスやエッジ端末でも動かしやすいので、データを外部に出さずに運用したいという要件に合います。外部APIや無料チャットサービスを使うと、入力データが学習に使われない設定であっても、顧客データを外部に送ることになり、方針に反します。また、巨大なモデルを動かすには高性能なGPUなど大きな計算資源が必要なため、限られた自社サーバーでそのまま運用するのは現実的ではありません。モデルを選ぶときは、性能だけでなく、データの扱いや運用コストも考えて規模を決めることが大切です。