信息技术高三填空题标准

对抗样本攻击的概念与防范 — 信息技术填空题

粤教版·信息技术第五章人工智能系统的安全 AI 三重审校通过

题目

某图像识别系统把一张原本能正确识别的图片误判了。检查发现，输入图片被加入了专门针对模型设计、人眼难以察觉但足以诱发错误分类的微小扰动。利用这类扰动欺骗模型的行为称为____；将含有此类扰动的样本加入训练集并重新训练模型，是一种____防范方法。