AI-103：Developing AI Apps and Agents on Azure コンピューター ビジョン ソリューションの実装 問9
コンピューター ビジョン ソリューションの実装／マルチモーダルの責任あるAIフリマアプリの運営会社が、出品者がアップロードする商品写真を、公開前に暴力・性的内容・自傷・ヘイトの各カテゴリで重大度ごとに判定し、基準を超えるものは人の審査に回したい状況です。写真は生成 AI で作ったものではなく、アプリ内で Foundry のモデルを呼び出す処理もありません。利用するものとして適切なものはどれですか。
当サイトのオリジナル問題（AI-103：Developing AI Apps and Agents on Azureの出題範囲「コンピューター ビジョン ソリューションの実装」に対応。実際の試験問題ではありません）
- APrompt Shields を有効にして、アップロードされた写真に含まれる攻撃的な指示を検出する
- BFoundry のモデルデプロイに対するコンテンツフィルターを構成し、アップロード画像を判定させる
- CAzure AI Content Safety のテキスト分析 API に写真を送信し、カテゴリごとの重大度を取得する
- DAzure AI Content Safety の画像分析 API に写真を送信し、カテゴリごとの重大度を取得して審査の判断に使う
正解：D
解説
モデルを介さずに、ユーザーがアップロードする画像を審査するには、Azure AI Content Safety の画像分析 API が適しています。暴力・性的内容・自傷・ヘイトの各カテゴリについて重大度が返るため、しきい値を超えたものを人の審査へ回せます。モデルデプロイのコンテンツフィルターはそのモデルへの入出力にだけ働き、テキスト分析 API は画像を入力として受け付けません。Prompt Shields は大規模言語モデルへの入力攻撃を検出する機能です。
選択肢ごとの解説
- A誤り。Prompt Shields はモデルへの入力に含まれる攻撃を検出する機能で、画像の有害カテゴリの判定には使いません。
- B誤り。モデルデプロイのコンテンツフィルターは、そのモデルへの入出力に適用されます。モデルを呼び出さない今回の処理では働きません。
- C誤り。テキスト分析 API は文章を対象とする API で、画像を入力にして判定する用途には使えません。
- D正しい。画像分析 API は画像をカテゴリごとの重大度で判定でき、モデルを使わない審査フローにも組み込めます。