研究人员证明可以将恶意软件隐藏在神经网络图像分类器中以绕过防御措施。
近日，研究人员在一篇题为“EvilModel: Hiding Malware Inside of Neural Network Models”的学术论文中证明了如何在不影响神经网络性能的前提下将恶意软件通过神经网络来进行传输，以绕过对恶意软件的检测。
隐蔽地传递恶意软件和绕过对恶意软件的检测是恶意软件攻击活动来说是非常关键的。现阶段，神经网络模型的可解释性比较差，但具有较好的泛化能力。通过将恶意软件嵌入到已经训练好的神经网络的神经元中，就可以在不影响神经网络的性能的情况下隐蔽地传输恶意软件。如果模型没有足够的神经元来嵌入恶意软件，攻击者还可以使用未经过训练的模型，因为未经训练的神经元网络有更多的神经元。然后，攻击者可以在用于原来模型相同的数据集来训练模型，这样最终模型就可以得到与原模型相同的性能。
但研究人员同时指出该技术只适用于恶意软件的隐藏，不适用于恶意软件的执行，要运行嵌入的恶意软件，攻击者必须用特定的应用来将恶意软件的不同部分从神经网络的神经元中提取出来。
测试证明可以将36.9MB的恶意软件嵌入到一个178MB的AlexNet模型中，同时保证模型的准确率损失不超过1%，也就是说该威胁对反病毒引擎是完全透明的。
将恶意软件嵌入到神经网络的神经元后，因为神经网络模型的结构未发生变化，因此可以绕过反病毒软件的安全检查。随后，研究人员将嵌入了恶意软件的神经网络模型上传到了VirusTotal以检查恶意软件是否可以被检测到。但58个反病毒引擎都将模型识别为zip文件，没有任何一个恶意软件可以检测到可以情况。
研究人员认为，随着人工智能技术的广泛应用，基于人工智能和神经网络的恶意软件等威胁和攻击将成为未来网络攻击的一个主流趋势，也是网络和信息安全威胁防护的新的挑战。研究人员在用户终端设备上安装安全软件来检测从神经网络模型中提取和执行恶意软件的过程。
论文下载地址：https://arxiv.org/pdf/2107.08590.pdf
参考及来源：https://securityaffairs.co/wordpress/120558/malware/hiding-malware-model...
