AI-103：Developing AI Apps and Agents on Azure 生成 AI とエージェント ソリューションの実装 問6
生成 AI とエージェント ソリューションの実装／Foundry でのエージェント構築顧客対応エージェントに、返金処理を行う社内 API を関数ツールとして持たせます。返金額が一定額を超える場合は、必ず担当者が内容を確認して承認してから実行する運用にしたい状況です。実装方針として適切なものはどれですか。
当サイトのオリジナル問題（AI-103：Developing AI Apps and Agents on Azureの出題範囲「生成 AI とエージェント ソリューションの実装」に対応。実際の試験問題ではありません）
- Aエージェントの指示に「高額な返金は実行しない」と明記し、モデルの判断に任せる
- Bモデルが返す関数呼び出しの要求をアプリで受け取り、金額を判定して承認を挟んでから API を実行する
- Cモデル デプロイのコンテンツ フィルターを厳格にして、高額返金に関する出力をブロックする
- Dモデルの temperature を 0 にして、返金額の判断が毎回同じになるようにする
正解：B
解説
関数呼び出しでは、モデルは呼び出すべき関数と引数を返すだけで、実際の実行はアプリ側が担います。このため、実行前に金額の閾値判定と担当者の承認ステップを挟む設計が取れ、承認なしに API が実行されることを防げます。指示への記述はモデルの判断に依存するため、強制力のある統制にはなりません。
選択肢ごとの解説
- A誤り。指示による制御はモデルの判断に依存し、承認を確実に強制できません。
- B正しい。実行の主体がアプリなので、承認を経ない実行を確実に防げます。
- C誤り。コンテンツ フィルターは有害コンテンツの検出が目的で、業務上の金額条件による承認制御は行えません。
- D誤り。temperature は出力のばらつきを抑えるだけで、判断が毎回同じでも承認を強制する仕組みにはなりません。