AI-103：Developing AI Apps and Agents on Azure Azure AI ソリューションの計画と管理 問16
Azure AI ソリューションの計画と管理／責任あるAIの実装Foundry の生成AIアプリで、利用者の入力やモデルの出力に含まれる、暴力・ヘイト・性的・自傷といった有害カテゴリのコンテンツを、カテゴリごとの重大度しきい値に基づいて検出・ブロックしたい。利用する機能はどれか。
当サイトのオリジナル問題（AI-103：Developing AI Apps and Agents on Azureの出題範囲「Azure AI ソリューションの計画と管理」に対応。実際の試験問題ではありません）
- A温度パラメーターを下げる
- Bプロビジョニングされたスループットを割り当てる
- C埋め込みモデルの次元数を増やす
- Dコンテンツフィルター（ガードレール。カテゴリと重大度しきい値で入出力をモデレートする）
正解：D
解説
Foundry のコンテンツフィルター（ガードレール）は、入力・出力に含まれる暴力・ヘイト・性的・自傷などの有害カテゴリを、カテゴリごとに設定した重大度しきい値に基づいて検出・ブロックします。温度・スループット・埋め込み次元数は、安全性のモデレーションの機能ではありません。
選択肢ごとの解説
- A誤り。温度調整は出力の多様性の制御で、有害コンテンツの検出・ブロックではありません。
- B誤り。スループット割り当ては容量確保で、安全性のモデレーションではありません。
- C誤り。埋め込みの次元数は安全性の制御と無関係です。
- D正しい。有害カテゴリの入出力モデレーションはコンテンツフィルター（ガードレール）です。