MLA-C02：AWS Certified Machine Learning Engineer - Associate ML・AI ワークフローのデプロイとオーケストレーション 問9
ML・AI ワークフローのデプロイとオーケストレーション／リソースのプロビジョニングと構成多数の小さなモデル（顧客ごとのモデルなど）を提供するが、それぞれに専用エンドポイントを立てるとコストがかさむ。コスト効率よくホストしたい。最も適した方法はどれか。
当サイトのオリジナル問題（MLA-C02：AWS Certified Machine Learning Engineer - Associateの出題範囲「ML・AI ワークフローのデプロイとオーケストレーション」に対応。実際の試験問題ではありません）
- Aモデルごとに専用のリアルタイムエンドポイントを常時起動する
- Bすべてのモデルを1つに結合して1モデルにする
- Cマルチモデルエンドポイント（1 つのエンドポイントで多数のモデルを動的にロードして提供する）
- Dモデルを S3 に置くだけでエンドポイントは作らない
正解：C
解説
SageMaker のマルチモデルエンドポイントは、1 つのエンドポイントで多数のモデルを S3 から動的にロードして提供でき、モデルごとに専用エンドポイントを立てるよりコスト効率よくホストできます。専用エンドポイントの常時起動はコスト高、モデルの単純結合や S3 配置のみは解決になりません。
下線の用語は 用語集 で意味を確認できます。
選択肢ごとの解説
- A誤り。モデルごとの専用エンドポイント常時起動はコストがかさみ、要件に反します。
- B誤り。異なるモデルの単純結合は現実的でなく、要件の解決になりません。
- C正しい。多数モデルをコスト効率よくホストするのはマルチモデルエンドポイントです。
- D誤り。S3に置くだけでは推論提供になりません。