令和3年度 秋期 午前Ⅱ 問1

✓ これが正解イAdversarial Examples 攻撃

解説

ノイズで誤判定させるのが Adversarial Examples 攻撃です。

設問の手掛かりは三つあります。対象が AI による画像認識であること、人間には知覚できないノイズを画像に混ぜること、そして判定結果を誤らせることです。入力データのほうを細工して、学習済みのモデルに誤った答えを出させる攻撃は Adversarial Examples 攻撃と呼ばれます。見た目はほとんど同じ画像なのに、AI だけが別の物と判定してしまう点が特徴です。選択肢を見分けるときは、攻撃の相手が AI かどうか、そして狙いが誤判定なのか別の情報を盗むことなのか、の二点で仕分けると迷いにくくなります。

ほかの選択肢はなぜ違うのか

• アAdaptively Chosen Me…：Adaptively Chosen Message 攻撃は、署名させるメッセージを攻撃者が順に選び直しながら署名の偽造を狙う、デジタル署名に対する攻撃の型です。画像認識の AI を相手にするものではありません。
• ウDistributed Reflecti…：Distributed Reflection Denial of Service 攻撃は、第三者のサーバに応答を反射させて標的へ大量の通信を送り付ける、分散型のサービス妨害です。画像にノイズを混ぜる手口とは無関係です。
• エModel Inversion 攻撃：Model Inversion 攻撃も AI を狙いますが、学習済みモデルの出力を手掛かりに、学習に使われたデータを推定・復元しようとするものです。狙いは情報を盗み出すことで、判定を狂わせることではありません。