信息技术 高三 选择题 标准

对抗样本攻击的概念与防范 — 信息技术选择题

粤教版·信息技术 第五章 人工智能系统的安全 AI 三重审校通过

题目
某小区车牌识别系统对原始车牌图像识别正常,攻击者构造了一批人眼无法察觉的微小扰动样本加入输入中,使系统频繁误判。下列关于该攻击及防范的说法,正确的是( ) A. 这种攻击利用模型对输入扰动的敏感性,属于对抗样本攻击,可通过对抗训练等方式提升模型鲁棒性来防范 B. 这属于网络病毒入侵,只需升级防火墙和杀毒软件即可彻底解决 C. 这属于硬件故障导致的识别偏差,更换摄像头设备即可消除该风险 D. 只要在输出端加装纠错程序就能完全杜绝此类攻击,无需改进模型本身