信息技术高三填空题较难

对抗样本攻击的概念与防范 — 信息技术填空题

粤教版·信息技术第五章人工智能系统的安全 AI 三重审校通过

题目

某仓储系统识别箱体标签时，原始图像可被正确分类；攻击者针对该模型加入人眼难以察觉的微小扰动，使图像被误分类。把这种行为称为____；若将此类扰动图像及其正确标签加入训练过程，以增强模型抵御同类攻击的能力，这种防范方法称为____。