令和6年度 秋期 情報処理安全確保支援士試験 午前Ⅱ 問2
テクノロジ／セキュリティAI による画像認識において，認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによって，AI アルゴリズムの特性を悪用し，誤認識させる攻撃はどれか。
出典：令和6年度 秋期 情報処理安全確保支援士試験 午前Ⅱ 問2
- アAdaptively Chosen Message 攻撃
- イAdversarial Examples 攻撃
- ウDistributed Reflection Denial of Service 攻撃
- エModel Inversion 攻撃
正解：イ
解説
Adversarial Examples（敵対的サンプル）攻撃は，画像などの入力データに，人間の目にはほとんど気付かれないような微小なノイズや摂動を意図的に加えることによって，AI（機械学習モデル）の判定を誤らせる攻撃です。AI モデルの学習アルゴリズムや決定境界の特性を悪用しており，自動運転車の標識認識を誤らせるなど，AI を利用したシステムに対する脅威として知られています。
選択肢ごとの解説
- ア誤り。Adaptively Chosen Message 攻撃は，署名や暗号方式に対して，攻撃者が適応的に選んだメッセージへの署名や暗号文を入手して解析する暗号解読手法であり，AI の画像認識に対する攻撃ではありません。
- イ正しい。人間には知覚できないノイズや微小な変化を画像に含めることで AI の判定を誤らせる攻撃が Adversarial Examples 攻撃です。
- ウ誤り。Distributed Reflection Denial of Service（DRDoS）攻撃は，送信元を偽装したリクエストを多数の踏み台に送り，その応答を攻撃対象に集中させるサービス妨害攻撃であり，画像認識の誤認識を狙うものではありません。
- エ誤り。Model Inversion 攻撃は，学習済みモデルの出力などから学習に使われた入力データ（個人情報など）を推測・復元しようとする攻撃であり，誤認識を狙う攻撃ではありません。