AIF-C01：AWS Certified AI Practitioner 生成 AI の基礎 問10
生成 AI の基礎／ビジネス課題への能力と限界人事部が、応募書類の要約と選考の優先度付けに生成 AI を使うことを検討しています。基盤モデルは、インターネット上の大量のテキストで学習されています。生成 AI の限界を踏まえた対応として、適切なものはどれですか。
当サイトのオリジナル問題（AIF-C01：AWS Certified AI Practitionerの出題範囲「生成 AI の基礎」に対応。実際の試験問題ではありません）
- A基盤モデルは大量の公開データで学習されているため中立であるとみなし、出力した優先度をそのまま採用する
- B応募書類から性別や年齢などの項目を削除しさえすれば、モデルが出力するバイアスは完全になくなると考えて運用する
- C学習データに含まれる偏りが出力に反映される可能性があることを前提に、属性ごとの出力の違いなどを評価し、最終的な選考の判断は人が行う
- Dプロンプトに「公平に判断すること」と指示すれば、偏りは排除されるとみなして、評価や人による確認を省く
正解：C
解説
生成 AI は、学習データに含まれる社会的な偏りを出力に反映することがあります。採用のように人の権利や機会に影響する用途では、出力を属性ごとの傾向などの観点で評価し、最終判断は人が行う設計が適切です。公開データで学習しているから中立、とは言えません。属性の削除だけでは、居住地や経歴など他の情報が代理となって偏りが残ることがあります。プロンプトでの指示にも、偏りの排除の保証はありません。
選択肢ごとの解説
- A誤り。大量の公開データには偏りが含まれ得るため、中立とはみなせません。出力をそのまま採用するのは不適切です。
- B誤り。属性項目を削除しても、他の情報が代理変数となって偏りが残ることがあり、完全には解消できません。
- C正しい。偏りの可能性を前提に出力を評価し、最終判断を人が行うのが、生成 AI の限界を踏まえた対応です。
- D誤り。プロンプトでの指示は偏りの排除を保証しません。評価と人による確認は省けません。