AIF-C01：AWS Certified AI Practitioner 責任ある AI のガイドライン 問13
責任ある AI のガイドライン／透明性と説明可能性のあるモデル与信審査など、判断の根拠を利用者や監査人に説明する必要がある業務に ML を用います。モデルの説明可能性（explainability）に関する考え方として最も適切なものはどれですか。
当サイトのオリジナル問題（AIF-C01：AWS Certified AI Practitionerの出題範囲「責任ある AI のガイドライン」に対応。実際の試験問題ではありません）
- Aモデルは精度さえ高ければ、判断の根拠を説明できる必要はない
- Bどんなモデルでも内部は完全に透明なので、説明は常に容易である
- C一般に高精度で複雑なモデルほど内部の解釈が難しくなる傾向があり、説明責任が必要な用途では説明可能性と精度のバランスを考える必要がある
- D説明可能性は法規制とは一切関係しない
正解：C
解説
一般に、ディープラーニングなど高精度で複雑なモデルほど内部の挙動の解釈（説明）が難しくなる傾向があり、しばしば精度と説明可能性の間にトレードオフが生じます。判断根拠の説明が求められる用途では、説明可能性と精度のバランスを考慮し、必要に応じて解釈しやすいモデルや説明手法（特徴量の寄与の可視化など）を用いることが重要です。説明可能性は規制対応の観点からも重要になります。
下線の用語は 用語集 で意味を確認できます。
選択肢ごとの解説
- A誤り。説明責任が必要な用途では、精度だけでなく判断根拠を説明できることが重要です。
- B誤り。複雑なモデルは内部が不透明なことが多く、説明が常に容易とは限りません。
- C正しい。複雑なモデルほど解釈が難しく、説明責任のある用途では精度と説明可能性のバランスが必要です。
- D誤り。説明可能性は、判断理由の開示を求める法規制対応の観点からも重要です。