過去問ドリル

AIF-C01:AWS Certified AI Practitioner 基盤モデルの応用 問19

基盤モデルの応用/基盤モデルの性能評価

要約や翻訳などの生成タスクの品質を、大量に・一貫して・自動で評価したい(人手評価は補助的に使う)。最も適したアプローチはどれか。

当サイトのオリジナル問題(AIF-C01:AWS Certified AI Practitionerの出題範囲「基盤モデルの応用」に対応。実際の試験問題ではありません)

正解:D

解説

要約・翻訳などの生成品質を大量かつ一貫して評価するには、ROUGE・BLEU などの自動評価指標や Amazon Bedrock の評価機能(必要に応じて LLM-as-a-judge)を用い、人手評価は補助的に併用します。全件人手のみはスケールせず、評価なしの公開やレイテンシーだけの判断は、品質評価になりません。

下線の用語は 用語集 で意味を確認できます。

選択肢ごとの解説

  • A誤り。人手のみは大量・一貫評価にスケールしません(人手は補助的に併用)。
  • B誤り。評価なしの公開は品質を担保できません。
  • C誤り。レイテンシーは応答速度で、出力品質の評価ではありません。
  • D正しい。大規模・一貫した自動評価には自動指標やBedrock評価が適します。
AIF-C01:AWS Certified AI Practitionerの問題を演習モードで解く