AIF-C01：AWS Certified AI Practitioner 責任ある AI のガイドライン 問5
責任ある AI のガイドライン／透明性と説明可能性のあるモデル金融機関が、融資の申込みを ML モデルで審査します。規制により、否決した場合には申込者に判断の主な理由を説明する義務があります。このときのモデル設計の方針として適切なものはどれですか。
当サイトのオリジナル問題（AIF-C01：AWS Certified AI Practitionerの出題範囲「責任ある AI のガイドライン」に対応。実際の試験問題ではありません）
- A精度が最も高くなる多数のモデルのアンサンブルを採用し、精度の評価結果だけを開示する
- B決定木や線形モデルなど、予測の根拠を人が追跡できる解釈可能なモデルを採用し、精度との兼ね合いを評価する
- C予測精度を高めるため、層を増やした大規模な深層ニューラルネットワークに置き換える
- Dモデルの内部構造は非公開とし、入力と出力の関係だけを利用者に説明する
正解：B
解説
説明可能性は、モデルがなぜその予測をしたのかを人が理解できる度合いで、規制対応や利用者への説明が必要な場面では特に重要です。決定木や線形モデルなどの解釈可能なモデルは、判断根拠を追跡しやすい一方、複雑なモデルより精度が劣る場合があるため、両者のトレードオフを評価して選びます。精度のみを追求した複雑なモデルは、理由の説明が難しくなります。
選択肢ごとの解説
- A誤り。多数のモデルのアンサンブルは判断根拠の追跡が難しく、精度の開示だけでは否決理由の説明義務を満たせません。
- B正しい。判断根拠を追跡できる解釈可能なモデルを採用し、精度とのトレードオフを検討するのが、説明義務のある用途に合った方針です。
- C誤り。層の多い深層ニューラルネットワークは一般に解釈が難しく、説明可能性の要件にはむしろ逆行します。
- D誤り。内部構造と判断理由を示さず入力と出力だけを説明しても、否決の主な理由を申込者に説明する要件は満たせません。