AI-901：Microsoft Azure AI Fundamentals AI の概念と機能の識別 問1
AI の概念と機能の識別／責任あるAIの原則ある金融機関が、過去の融資データで学習した機械学習モデルを使ってローン審査を自動化しました。運用後の検証で、他の条件がほぼ同じ申込者であっても、特定の性別の申込者の承認率が一貫して低いことが分かりました。この問題は、責任あるAIのどの原則に最も直接関係しますか。
当サイトのオリジナル問題（AI-901：Microsoft Azure AI Fundamentalsの出題範囲「AI の概念と機能の識別」に対応。実際の試験問題ではありません）
- A信頼性と安全性
- B公平性
- C透明性
- D説明責任
正解：B
解説
同程度の条件の人々を、属性の違いによって異なる扱いにしてしまう問題は、公平性の原則に関するものです。学習データに偏りがあると、モデルがその偏りを再現・増幅することがあります。対策としては、データの偏りの評価、属性ごとの結果の比較、再学習などが挙げられます。他の原則も重要ですが、このシナリオの核心は属性による結果の不均衡です。
選択肢ごとの解説
- A誤り。信頼性と安全性は、想定した条件でシステムが一貫して動作し、予期しない状況でも害を及ぼさないことに関する原則です。特定の属性に対する結果の偏りが主題の本シナリオとは焦点が異なります。
- B正しい。属性の違いで承認率に差が出ているのは、人々を公平に扱うという公平性の原則に関わる問題です。
- C誤り。透明性は、AIがどのように動作し、どのような限界があるかを利用者が理解できるようにする原則です。審査結果の説明が不足している状況ではなく、結果が不均衡である点が問題です。
- D誤り。説明責任は、AIシステムの結果に対して人間や組織が責任を負う体制に関する原則です。結果の偏りそのものを直接指す原則ではありません。