AI-103：Developing AI Apps and Agents on Azure Azure AI ソリューションの計画と管理 問12
Azure AI ソリューションの計画と管理／責任あるAIの実装ある EC 事業者が、Foundry Agent Service で返金処理のエージェントを構築します。エージェントは MCP サーバー経由の返金実行ツールを呼び出せます。社内規程で、返金は金額に関わらず、実行の前に担当者が内容を確認して可否を判断する必要があります。エージェントの構成として適切なものはどれですか。
当サイトのオリジナル問題（AI-103：Developing AI Apps and Agents on Azureの出題範囲「Azure AI ソリューションの計画と管理」に対応。実際の試験問題ではありません）
- Aシステムプロンプトに「返金の実行前に必ず利用者へ確認すること」と記載し、モデルの判断に従ってツールを呼び出させる
- Bエージェントに付与するツールを返金実行ツールだけに絞り、最小権限の Azure RBAC ロールを割り当てる
- C返金ツールの呼び出し結果の正確性をエバリュエーターで事前に評価し、基準を満たしたエージェントだけを本番に公開する
- DMCP ツールにツール呼び出しの承認を必須とする設定を行い、承認の要求を受けたアプリが担当者の承認を得てから実行を再開する
正解：D
解説
エージェントが副作用のあるツールを呼び出す場合、人間による承認を必須にすることで、人による監督を構成として強制できます。Foundry Agent Service の MCP ツールでは、ツールの呼び出し前に承認を要求する設定があり、エージェントの実行は承認の要求で止まります。アプリが担当者の判断を得て承認または拒否を返すと、実行が再開されます。プロンプトでの指示、攻撃の検出、事前評価は、いずれも個々の呼び出しに対する人の確認を強制する仕組みではありません。
選択肢ごとの解説
- A誤り。システムプロンプトの指示はモデルの出力に影響するだけで、守られることを保証できません。担当者の確認を必ず経る要件を、構成として強制できません。
- B誤り。ツールを絞って最小権限を与えるのは不要な操作を防ぐ構成ですが、正当な返金についても実行のたびに担当者の確認を挟むという要件は満たしません。
- C誤り。事前の評価はリリース前の品質確認であり、本番での個々の返金の実行前に担当者が判断する要件を満たしません。
- D正しい。ツール呼び出しの承認を必須にすれば、返金ツールの実行前に実行が止まり、担当者の承認を得た場合だけ再開できます。