AI-901：Microsoft Azure AI Fundamentals Microsoft Foundry による AI ソリューションの実装 問30
Microsoft Foundry による AI ソリューションの実装／生成AIアプリとエージェントの実装生成AIアプリで、利用者の入力やモデルの出力に含まれる、暴力・ヘイト・性的などの有害なコンテンツを検出してブロックし、安全性を高めたい。Foundry で利用する機能はどれか。
当サイトのオリジナル問題（AI-901：Microsoft Azure AI Fundamentalsの出題範囲「Microsoft Foundry による AI ソリューションの実装」に対応。実際の試験問題ではありません）
- Aコンテンツフィルター（ガードレール。有害カテゴリの入出力を検出してブロックする）
- B温度（temperature）を上げる
- C埋め込みの次元数を増やす
- Dトークン化の方式を変更する
正解：A
解説
コンテンツフィルター（ガードレール）は、生成AIの入力・出力に含まれる暴力・ヘイト・性的・自傷などの有害カテゴリを検出し、しきい値に応じてブロックして安全性を高める機能です。温度・埋め込み・トークン化の調整は、有害コンテンツの検出・ブロックの手段ではありません。（Foundry ではガードレール（Guardrails and controls）の中でコンテンツフィルターを構成し、入力・出力の両方に適用できます。）
下線の用語は 用語集 で意味を確認できます。
選択肢ごとの解説
- A正しい。有害コンテンツの検出・ブロックはコンテンツフィルター（ガードレール）です。
- B誤り。温度を上げると多様性が増すだけで、有害コンテンツのブロックにはなりません。
- C誤り。埋め込みの次元数は有害コンテンツの制御とは無関係です。
- D誤り。トークン化方式の変更は安全性の制御手段ではありません。