AI-901：Microsoft Azure AI Fundamentals AI の概念と機能の識別 問12
AI の概念と機能の識別／責任あるAIの原則ある製造会社が、工場の設備カメラ映像から異常を検知して作業員へ警告するAIシステムを導入します。導入前に、照明が暗い場合・カメラが汚れた場合・想定外の機器が映り込んだ場合など、通常と異なる条件でも安全側に誤作動せず動作することを繰り返し検証し、判定に失敗したときは自動で人の確認に切り替える設計にしました。この取り組みは、責任あるAIのどの原則に最も直接対応しますか。
当サイトのオリジナル問題（AI-901：Microsoft Azure AI Fundamentalsの出題範囲「AI の概念と機能の識別」に対応。実際の試験問題ではありません）
- A信頼性と安全性
- B包括性
- C透明性
- D公平性
正解：A
解説
想定外の入力や悪条件でも意図どおりに、かつ安全に動作するようにAIシステムを設計・検証するのは、「信頼性と安全性（Reliability & safety）」の原則です。通常と異なる条件での繰り返しテストや、失敗時に人の確認へ切り替えるフェイルセーフの設計は、この原則の典型的な実践です。AIは学習時に見ていない状況に弱い場合があるため、本番前の検証と運用中の監視が重要になります。同じ検知システムでも、特定の属性の人々への偏りを問う場合は公平性、動作の根拠を利用者に示す場合は透明性が対応します。
選択肢ごとの解説
- A正しい。悪条件や想定外の入力でも安全側に動作することの検証と、失敗時に人の確認へ切り替える設計は、AIが一貫して安全に動作することを求める信頼性と安全性の原則に対応します。
- B誤り。包括性は、障害の有無や言語・文化などにかかわらず、幅広い人々が利用できるようにする原則です。この取り組みは利用できる人の範囲ではなく、動作の安定性と安全性に関するものです。
- C誤り。透明性は、AIの動作や判断の根拠、限界を利用者に分かりやすく伝える原則です。この取り組みは情報の開示ではなく、悪条件下での安全な動作の確保が中心です。
- D誤り。公平性は、属性によって特定の人々が不利に扱われないようにする原則です。この取り組みは特定の人々への扱いの偏りを問題にしたものではなく、動作条件に対する堅牢さを扱っています。