Adversarial Examples

近年、人工知能は画像認識や音声認識など、様々な分野で目覚ましい発展を遂げ、私たちの生活に広く浸透しつつあります。しかし、その利便性の裏側には、悪意のある攻撃者から狙われるという危険性も潜んでいます。中でも、「敵対的な攻撃」と呼ばれる手法は、人工知能モデルの脆弱性を突くことで、その認識機能を混乱させ、誤動作を引き起こす危険な攻撃として、大きな注目を集めています。敵対的な攻撃は、人工知能モデルに入力するデータに、人間にはほとんど認識できない程度の微細な変更を加えることで、モデルの判断を狂わせる攻撃手法です。例えば、自動運転システムに使われている画像認識モデルを標的にした場合、道路標識にわずかな細工を施すことで、人間には標識だと認識できるにも関わらず、人工知能モデルには全く別のものと誤認識させることが可能になります。このような攻撃が成功すると、自動運転車が誤った判断を下し、重大な事故につながる可能性も否定できません。また、顔認証システムにおいては、認証を不正に突破したり、特定の人物を別人だと誤認識させたりするなど、セキュリティ上の脅威となる可能性があります。人工知能技術の進展に伴い、敵対的な攻撃によるリスクはますます高まっていくと予想され、その対策が急務となっています。