AIF-C01:AWS Certified AI Practitioner 基盤モデルの応用 問14
基盤モデルの応用/基盤モデルを使うアプリの設計上の考慮(推論パラメーター・RAG・ベクターストア)基盤モデルの推論で、確率の高い上位の候補に絞って(累積確率や個数で)サンプリング範囲を制御し、出力の多様性を調整したい。温度(temperature)以外の代表的なパラメーターはどれか。
当サイトのオリジナル問題(AIF-C01:AWS Certified AI Practitionerの出題範囲「基盤モデルの応用」に対応。実際の試験問題ではありません)
- A学習率(learning rate)
- Bバッチサイズ
- CTop-p(核サンプリング)や Top-k(上位 k 個に限定)
- Dエポック数
正解:C
解説
Top-p(核サンプリング:累積確率が p に達するまでの候補に限定)や Top-k(上位 k 個の候補に限定)は、温度(temperature)と並ぶ推論時のサンプリング制御パラメーターで、出力の多様性を調整します。学習率・バッチサイズ・エポック数は学習時のパラメーターであり、推論のサンプリング制御ではありません。
選択肢ごとの解説
- A誤り。学習率は学習時のパラメーターで、推論のサンプリング制御ではありません。
- B誤り。バッチサイズは学習時の設定です。
- C正しい。サンプリング範囲を絞るのは Top-p/Top-k です。
- D誤り。エポック数は学習の反復回数です。