令和3年度 秋期 情報処理安全確保支援士試験 午前Ⅱ 問1
テクノロジ／セキュリティAI による画像認識において，認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによって AI アルゴリズムの特性を悪用し，判定結果を誤らせる攻撃はどれか。
出典：令和3年度 秋期 情報処理安全確保支援士試験 午前Ⅱ 問1
- アAdaptively Chosen Message 攻撃
- イAdversarial Examples 攻撃
- ウDistributed Reflection Denial of Service 攻撃
- エModel Inversion 攻撃
正解：イ
解説
Adversarial Examples 攻撃は，AI（機械学習モデル）による画像認識などにおいて，人間には知覚できない程度の微小なノイズや摂動を入力画像に意図的に加えることで，AI アルゴリズムの判定境界の特性を悪用し，誤分類（誤認識）を引き起こす攻撃です。人間が見た目には元の画像とほぼ区別が付かないにもかかわらず，AI モデルは全く異なるクラスに誤って分類してしまう点が特徴です。
選択肢ごとの解説
- ア誤り。Adaptively Chosen Message 攻撃（適応的選択メッセージ攻撃）は，ディジタル署名方式に対して，攻撃者が適応的に選んだメッセージとその署名を入手しながら署名鍵や偽造署名を解析する攻撃であり，AI の画像認識を誤らせる攻撃ではありません。
- イ正しい。人間には知覚できないノイズや微小な変化を画像に加え，AI アルゴリズムの特性を悪用して判定結果を誤らせる攻撃が Adversarial Examples 攻撃です。
- ウ誤り。DRDoS（Distributed Reflection Denial of Service）攻撃は，送信元を詐称した要求を多数の踏み台に送り，応答を攻撃対象に集中させる DoS 攻撃であり，AI の判定を誤らせる攻撃ではありません。
- エ誤り。Model Inversion 攻撃は，学習済みの AI モデルの出力などを手掛かりに，そのモデルの学習に使われた入力データ（訓練データ）の特徴を推定・復元しようとする攻撃であり，画像の判定結果を誤らせる攻撃ではありません。