機械学習 AIを欺く攻撃：敵対的攻撃
- 人工知能の弱点敵対的攻撃とは人工知能（AI）は、私たちの生活に革新をもたらしていますが、実は驚くべき弱点を持っています。それが「敵対的攻撃」です。この攻撃は、AIのシステムを欺くために、人が知覚できない程度の小さな変更をデータに加えることで、AIに誤動作を引き起こします。例えば、画像認識AIを例に考えてみましょう。このAIは、膨大な画像データとそのラベルを学習することで、画像に写っているものを正確に認識します。しかし、この学習過程につけ込む形で、敵対的攻撃は行われます。具体的には、パンダの画像にノイズと呼ばれるわずかな変更を加えることで、人間にはパンダに見える画像をAIはテナガザルと誤認識してしまうケースが報告されています。人間には全く認識できない程度のノイズでも、AIの認識を狂わせてしまうのです。この敵対的攻撃は、自動運転技術など、私たちの生活に深く関わるAIシステムにも影響を与える可能性があります。例えば、停止標識にステッカーを貼るなど、わずかな変更を加えるだけで、自動運転車が誤認識し、事故につながる可能性も懸念されています。このように、敵対的攻撃はAIの信頼性を揺るがす深刻な問題です。この問題に対処するために、AIの開発者は、より安全で信頼性の高いシステムを構築するための対策を講じることが求められています。