過去問ドリル

AIF-C01:AWS Certified AI Practitioner 基盤モデルの応用 問14

基盤モデルの応用/基盤モデルを使うアプリの設計上の考慮(推論パラメーター・RAG・ベクターストア)

基盤モデルの推論で、確率の高い上位の候補に絞って(累積確率や個数で)サンプリング範囲を制御し、出力の多様性を調整したい。温度(temperature)以外の代表的なパラメーターはどれか。

当サイトのオリジナル問題(AIF-C01:AWS Certified AI Practitionerの出題範囲「基盤モデルの応用」に対応。実際の試験問題ではありません)

正解:C

解説

Top-p(核サンプリング:累積確率が p に達するまでの候補に限定)や Top-k(上位 k 個の候補に限定)は、温度(temperature)と並ぶ推論時のサンプリング制御パラメーターで、出力の多様性を調整します。学習率・バッチサイズ・エポック数は学習時のパラメーターであり、推論のサンプリング制御ではありません。

選択肢ごとの解説

  • A誤り。学習率は学習時のパラメーターで、推論のサンプリング制御ではありません。
  • B誤り。バッチサイズは学習時の設定です。
  • C正しい。サンプリング範囲を絞るのは Top-p/Top-k です。
  • D誤り。エポック数は学習の反復回数です。
AIF-C01:AWS Certified AI Practitionerの問題を演習モードで解く