「ベイズ最適化を用いたデータ・クエリ効率の良いBlack-box Universal Adversarial Attacks」

［情報処理学会論文誌 Vol.63　No.12, pp.1776-1785］

［論文概要］

近年，普遍的な敵対的摂動（UAP）と呼ばれる，任意の画像に加えることで敵対的サンプルを生成できる単一の摂動を計算する攻撃が研究されている．いくつかの既存研究は，クエリアクセスのみを用いるブラックボックス環境下でUAPを生成できることを示しているが，その多くは攻撃者にとって現実的ではない量の訓練データとクエリを必要としている．そこで本稿では，効率良くUAPを生成するためのベイズ最適化を用いた手法を提案する．実験では，通常モデルや防御モデルへの攻撃を通じて，提案手法が高いデータ・クエリ効率と既存手法に匹敵する攻撃成功率を達成することを示す．

［受賞理由］

本論文は、AIの推論結果を誤らせる攻撃（Adversarial Example）において、従来の攻撃手法では数万枚の訓練データ画像が必要であったところを10枚程度の画像で攻撃可能であることを明らかにした。この成果は昨今、社会的にも大きな注目を集めている、より安全なAIシステムの開発やそのセキュリティ技術の発展に有用である。論文としての完成度も高く、論文賞にふさわしいものと判断し，ここに推薦する．