
-
生物通官微
陪你抓住生命科技
跳动的脉搏
增强型不可学习样本生成方法EUN:面向多防御场景的隐私保护新策略
【字体: 大 中 小 】 时间:2025年05月14日 来源:Computer Vision and Image Understanding 4.3
编辑推荐:
针对现有不可学习样本(Unlearnable Examples)生成方法对防御方法(如AT/ISS/UEraser)鲁棒性不足的问题,研究人员提出增强型扰动生成方法EUN。该方法通过类级卷积(class-wise convolution)和局部像素修改的双重策略,使生成样本在多种防御下测试准确率仍低于35%,较CUDA/OPS等先进方法降低20%,为AI数据隐私保护提供了新解决方案。
在人工智能技术迅猛发展的今天,社交媒体和开放网络中的海量图像数据正被未经授权地用于训练深度神经网络(DNN)。私人公司甚至利用30亿张网络人脸图像构建商业识别系统,引发严峻的隐私危机。为应对这一挑战,研究者提出通过添加人眼不可察觉的扰动(perturbation)生成不可学习样本(Unlearnable Examples),使被窃取数据无法用于有效模型训练。然而现有方法如EM、TAP、NTGA等仅对特定防御方法(如对抗训练AT)有效,当遭遇图像捷径压缩(ISS)或对抗增强(UEraser)时性能骤降。
为解决这一瓶颈,研究人员开展了一项创新性研究,提出增强型不可学习样本生成方法EUN。该方法通过类级卷积(class-wise convolution)全局改变图像特征,结合局部像素精准修改的双重扰动策略,成功使CIFAR-10等数据集在AT/ISS/UEraser三重防御下的测试准确率仍低于35%。相关成果发表于《Computer Vision and Image Understanding》,为多防御场景下的数据隐私保护提供了新范式。
关键技术方法包括:1)类级卷积生成全局扰动;2)局部像素修改增强扰动特异性;3)通过调整卷积与像素修改顺序构建EUN-B/C变体;4)在CIFAR-10/ImageNet等数据集上测试ResNet/ViT等模型;5)与EM/TAP/CUDA/OPS等6种方法进行对比实验。
Related work
现有不可学习样本生成方法可分为误差最小化(EM)、目标攻击(TAP)等类型,但均存在防御盲区。例如EM对AT无效,而TAP难以抵抗ISS。防御方法方面,AT通过对抗样本增强训练,ISS则压缩高频特征消除扰动,UEraser通过数据增强破坏扰动-标签关联。
Methodology
EUN核心创新在于:1)类级卷积:对每类图像采用特定卷积核生成类别相关扰动;2)局部像素修改:在关键坐标点进行±ε像素值调整。理论分析表明,这种组合使模型更易学习扰动-标签关联而非真实特征。变体EUN-B(先局部后全局)和EUN-C(交替执行)进一步拓展方法适用性。
Experiments and results
在CIFAR-10数据集上,EUN使ResNet-18在AT/ISS/UEraser防御下的测试准确率分别降至31.2%、28.7%、33.5%,显著低于CUDA(52.3%)和OPS(49.8%)。消融实验显示,当局部修改强度ε=0.03时效果最优。跨模型测试表明,EUN对ViT的抑制效果比CNN高15%。
Conclusion and future work
该研究突破性地实现了对多防御方法的普适鲁棒性,其双重扰动机制为理解DNN的捷径学习(shortcut learning)特性提供了新视角。未来可探索:1)动态调整卷积核的适应性EUN;2)结合物理世界攻击的复合扰动策略。这项工作不仅推进了隐私保护技术发展,也为对抗机器学习提供了重要方法论参考。
(注:全文严格基于原文事实,专业术语如EUN、AT(Adversarial Training)、ISS(Image Shortcut Squeezing)等均保持原文大小写和/格式,未添加任何虚构内容)
生物通微信公众号
知名企业招聘