令和7年度 秋期 午前Ⅱ 問5

✓ これが正解アAI モデルに対して入力データを調整しながら出力結果の取得を繰り返し行って解析し，学習に用いた元のデータを推測する。

解説

出力を繰り返し調べ、学習に使った元のデータを推測する攻撃です。

モデルインバージョン攻撃のインバージョンは反転という意味で、AI モデルの出力から入力側、つまり学習に使われたデータを逆にたどる攻撃です。攻撃者は入力データを少しずつ変えながら出力結果を集めて解析し、学習データに含まれていた顔画像や個人情報などを推測します。見分ける軸は、攻撃者が最終的に何を手に入れようとしているかです。狙いが学習データそのものである点が、この攻撃の特徴です。

ほかの選択肢はなぜ違うのか

• イAI モデルに対して複数のデータを入力し…：複数の入力に対する出力結果を観察し、同等の性能をもつモデルを作る手口は、モデルの機能そのものを盗み出す攻撃です。入出力を観察する点は似ていますが、得ようとしているのはモデルの複製です。
• ウ学習時のデータセットに悪意あるデータを混…：学習時のデータセットに悪意あるデータを混ぜる手口は、学習の段階に働き掛けてモデルに誤った判断を覚えさせる攻撃です。完成したモデルの出力を集めて解析する攻撃ではありません。
• エ何らかの方法で AI の実行ファイルを入…：実行ファイルを逆アセンブルや逆コンパイルしてソースコードを得る手口は、プログラムの中身を解析する方法です。AI モデルの出力結果を使う攻撃ではなく、得られるものもソースコードです。