MLA-C02：AWS Certified Machine Learning Engineer - Associate ML・AI ワークフローのデプロイとオーケストレーション 問8
ML・AI ワークフローのデプロイとオーケストレーション／デプロイインフラの管理推論リクエストのペイロードが非常に大きく（例: 大きな画像/動画）、処理に時間がかかる。クライアントを待たせずに、処理完了後に結果を受け取れるようにしたい。最も適した推論方式はどれか。
当サイトのオリジナル問題（MLA-C02：AWS Certified Machine Learning Engineer - Associateの出題範囲「ML・AI ワークフローのデプロイとオーケストレーション」に対応。実際の試験問題ではありません）
- Aリアルタイム推論エンドポイント（同期・低遅延で即応）
- B非同期推論（Asynchronous Inference。大きなペイロード/長時間処理をキューイングして結果を返す）
- Cバッチ変換（定期的な大量一括オフライン推論）
- DAmazon Athena のクエリ
正解：B
解説
非同期推論（Asynchronous Inference）は、大きなペイロードや処理時間の長い推論要求をキューイングし、クライアントを同期的に待たせずに、完了後に結果（S3 出力や通知）を受け取れる方式です。同期のリアルタイム推論は大入力/長時間に不向き、バッチ変換は定期一括、Athena は SQL クエリであり、要件に合いません。
下線の用語は 用語集 で意味を確認できます。
選択肢ごとの解説
- A誤り。同期のリアルタイム推論は、大きな入力や長時間処理をクライアントが待つ必要があり不向きです。
- B正しい。大きな入力/長時間処理をキューイングするのは非同期推論です。
- C誤り。バッチ変換は定期一括で、単発の大ペイロード要求向けではありません。
- D誤り。AthenaはSQLクエリで、推論方式ではありません。