AI-103：Developing AI Apps and Agents on Azure Azure AI ソリューションの計画と管理 問11
Azure AI ソリューションの計画と管理／責任あるAIの実装ある自動車メーカーが、顧客向けの Foundry のチャットアプリを運用します。社内で使う未発表の車種のコードネームを、利用者の入力にも、モデルの応答にも含めないようにしたい要件があります。モデルのデプロイに適用するガードレール（コンテンツフィルター）の構成として適切なものはどれですか。
当サイトのオリジナル問題（AI-103：Developing AI Apps and Agents on Azureの出題範囲「Azure AI ソリューションの計画と管理」に対応。実際の試験問題ではありません）
- A保護されたマテリアル（コード）の検出を有効にして、既知のコードの出力を検出する
- Bコードネームを登録したカスタムブロックリストを作成し、入力と出力のフィルターに適用する
- CPrompt Shields のユーザープロンプト攻撃の検出を有効にして、入力への攻撃を検出する
- Dヘイトや暴力カテゴリの重大度のしきい値を最も厳しい設定に変更して、応答の遮断を強化する
正解：B
解説
コンテンツフィルターのカスタムブロックリストは、組織が指定した語句や正規表現を登録し、入力と出力でその語句を含む内容を遮断する機能です。未発表の車種名のように、組織固有で、有害カテゴリの重大度では扱えない語句を制御する用途に合います。Prompt Shields や保護されたマテリアルの検出は、それぞれ攻撃の検出や既存コードの出力検出が目的で、任意の語句を遮断する機能ではありません。
選択肢ごとの解説
- A誤り。保護されたマテリアル（コード）の検出は、公開リポジトリのコードに一致する出力を検出する機能です。社内のコードネームの遮断には使えません。
- B正しい。カスタムブロックリストに語句を登録し、入力と出力のフィルターに適用すれば、指定した語句を含む内容を遮断できます。
- C誤り。Prompt Shields のユーザープロンプト攻撃の検出は、モデルの安全策を回避する入力を検出する機能で、特定の語句の入力や出力を遮断するものではありません。
- D誤り。ヘイトや暴力カテゴリのしきい値は、そのカテゴリの有害な内容を対象にします。車種のコードネームは有害な内容ではなく、しきい値を厳しくしても遮断されません。