AIF-C01：AWS Certified AI Practitioner 基盤モデルの応用 問24
基盤モデルの応用／基盤モデルを使うアプリの設計上の考慮（推論パラメーター・RAG・ベクターストア）夜間に、大量の過去ドキュメント（数十万件）をまとめて基盤モデルで要約する処理を、応答のリアルタイム性は不要でコストを抑えて実行したいと考えています。Amazon Bedrock で最も適した推論の方式はどれですか。
当サイトのオリジナル問題（AIF-C01：AWS Certified AI Practitionerの出題範囲「基盤モデルの応用」に対応。実際の試験問題ではありません）
- Aバッチ推論（多数の入力をまとめて非同期に処理する）
- B低レイテンシのリアルタイム（オンデマンド）推論を 1 件ずつ呼び出す
- Cプロビジョンドスループットを常時確保して待機させる
- Dモデルをファインチューニングしてから 1 件ずつ推論する
正解：A
解説
Amazon Bedrock のバッチ推論は、多数の入力をまとめて非同期に処理する方式で、リアルタイム性が不要な大量データの一括処理をコスト効率よく実行できます。1 件ずつのリアルタイム推論は大量処理には非効率で、プロビジョンドスループットは高スループットの常時利用向け、ファインチューニングは要約のための必須手順ではありません。
下線の用語は 用語集 で意味を確認できます。
選択肢ごとの解説
- A正しい。リアルタイム性が不要な大量処理には、まとめて非同期処理するバッチ推論がコスト効率に優れます。
- B誤り。1 件ずつのリアルタイム推論は、数十万件の一括処理には非効率でコストも膨らみます。
- C誤り。プロビジョンドスループットは高スループットを常時確保する用途で、夜間の一括バッチ処理には過剰です。
- D誤り。要約タスクにファインチューニングは必須ではなく、設問の要件（コスト重視の一括処理）への最適解ではありません。