龚成清,何文华

• 1:广东女子职业技术学院应用设计学院

摘要(Abstract)：

随着人工智能技术的发展，机器学习的应用日益广泛，针对机器学习的攻击也相伴而生.数据投毒攻击是针对机器学习的一种攻击方式，它通过污染数据使得机器学习得到错误的结果，从而带来安全隐患.针对校园人脸识别的数据投毒攻击，通过孤立森林算法对人脸图像进行清洗，加快过滤被污染的数据样本；针对单个谱聚类算法的不足，结合多谱聚类评估算法对训练样本进行客观评分，提高算法的鲁棒性；通过线性拟合得到数据清洗和算法鲁棒性的最优平衡点，最优化单个谱聚类算法的性能.使用本校人脸识别系统中的1 500张人脸图像进行了仿真实验，实验表明，算法快速有效.

关键词(KeyWords)： 人脸识别;数据投毒;攻击;数据清洗;鲁棒性

Abstract:

Keywords:

基金项目(Foundation): 2021年度广东女子职业技术学院科研项目(ZDXM202107);; 2019年度广东省普通高校特色创新类项目(2019GWTSCX044)

作者(Author): 龚成清,何文华

DOI: 10.16393/j.cnki.37-1436/z.2022.02.021

参考文献(References)：

• [1]李欣姣，吴国伟，姚琳，等.机器学习安全攻击与防御机制研究进展和未来挑战[J].软件学报，2021,32(2):406-423.
• [2]魏立斐，陈聪聪，张蕾，等.机器学习的安全问题及隐私保护[J].计算机研究与发展，2020,57(10):2066-2085.
• [3]Nelson,Blaine,et al.Misleading learners:Co-opting your spam filter [C]// in Machine Learning in Cyber Trust:Security,Privacy,and Reliability.Boston,MA,USA:Springer,2019:17-51.
• [4]B.Biggio,G.Fumera,and F.Roli.Multiple classifier systems for robust classifier design in adversarial environments [J]// International Journal of Machine Learning and Cybernetics,2020,1(1-4):27-41.
• [5]亢飞，李建彬.基于数据复杂度的投毒数据检测方法[J].计算机应用研究，2020,37(7):2140-2143.
• [6]B.Biggio,L.Didaci,G.Fumera,and F.Roli.Poisoning attacks to compromise face templates [C]//in Proceeding of the 2013 Conference on Biometrics(ICB),Madrid,Spain,2019:1-7.
• [7]李盼.针对机器学习算法的投毒及其防御技术研究[D].长沙：国防科技大学研究生院，2018:1-76.
• [8]刘紫涵，吴鹏海，吴艳兰.三种谱聚类算法及其应用研究[J].计算机应用研究，2017,34(4):1026-1031.
• [9]孙晓霞，佟国香.一种使用机器学习方法的数字水印算法[J].小型微型计算机系统，2021,42(2):387-392.
• [10]王超英.基于文化基因算法和犹豫模糊集的聚类算法及其分布并行实现[J].计算机应用与软件，2021,32(4):63-67.