AIF-C01：AWS Certified AI Practitioner 責任ある AI のガイドライン 問12
責任ある AI のガイドライン／責任ある AI システムの開発（バイアス・公平性・有害性・Amazon Bedrock Guardrails・SageMaker Clarify）顔認識や与信審査などの ML モデルが、特定の属性（人種・性別など）のグループに対して不公平な結果を出すリスクを、開発段階で低減したいと考えています。責任ある AI の観点から最も適切な対策はどれですか。
当サイトのオリジナル問題（AIF-C01：AWS Certified AI Practitionerの出題範囲「責任ある AI のガイドライン」に対応。実際の試験問題ではありません）
- Aできるだけ少数の、偏った集団のデータだけで学習させる
- B多様で代表性のあるデータを用い、学習データやモデル出力の偏り（バイアス）を評価・是正する
- Cモデルの精度（全体の正解率）だけを指標にして公平性は考慮しない
- D属性情報を無視しさえすれば、偏りは必ず生じない
正解：B
解説
モデルの不公平（バイアス）を低減するには、多様で代表性のある学習データを用い、グループ間での結果の偏りを評価・是正することが重要です。偏った集団のデータのみでの学習や、全体精度だけを見る評価はバイアスを助長します。また、属性を単純に除外しても、相関する他の特徴から間接的な偏りが生じうるため「属性を無視すれば必ず公平」とは言えません。
下線の用語は 用語集 で意味を確認できます。
選択肢ごとの解説
- A誤り。偏った少数集団のデータのみでの学習は、かえってバイアスを強めます。
- B正しい。代表性のあるデータの利用と、偏りの評価・是正が公平性の確保に有効です。
- C誤り。全体精度だけを見ると、特定グループでの不公平を見逃す恐れがあります。
- D誤り。属性を除外しても相関する特徴から間接的な偏りが生じうるため、無視するだけでは不十分です。