AIF-C01：AWS Certified AI Practitioner 基盤モデルの応用 問11
基盤モデルの応用／学習とファインチューニング生成 AI アプリで大型の基盤モデルを使い、品質は十分に得られています。しかし推論のコストと応答の遅延が大きいため、同様の品質を、より小さなモデルで実現したいと考えています。教師データとして、大型モデルが生成した出力を使うことができます。適切な手法はどれか。
当サイトのオリジナル問題（AIF-C01：AWS Certified AI Practitionerの出題範囲「基盤モデルの応用」に対応。実際の試験問題ではありません）
- A大型モデルに対して、より多くのプロンプトと応答のペアを使ってファインチューニングを繰り返す
- Bラベルのない大量のテキストを使い、大型モデルの継続的事前トレーニングを行う
- C大型モデルの出力を教師データとして小型モデルを学習させる、モデル蒸留を行う
- D人間のフィードバックによる強化学習（RLHF）で、大型モデルの応答の好ましさを高める
正解：C
解説
モデル蒸留は、能力の高い大型モデル（教師）の出力を使って、より小さなモデル（生徒）を学習させる手法です。大型モデルに近い品質を保ちつつ、推論のコストと遅延を下げたい場合に使います。ファインチューニング、継続的事前トレーニング、RLHF はいずれも、対象のモデル自体の能力や振る舞いを調整する手法であり、モデルを小さくする目的には向きません。
選択肢ごとの解説
- A誤り。大型モデルのファインチューニングはタスクへの適合度を高めますが、モデルの大きさは変わらず、コストと遅延は下がりません。
- B誤り。継続的事前トレーニングはドメイン知識の獲得を目的とし、モデルを小さくする手法ではありません。
- C正しい。大型モデルの出力を教師に小型モデルを学習させ、コストと遅延を下げられます。
- D誤り。RLHF は人間の好みに沿うよう応答を調整する手法で、モデルの小型化には用いません。