warning: Creating default object from empty value in /mydata/wwwroot/xilinx.eetrend.com/modules/taxonomy/taxonomy.pages.inc on line 33.

软件安全

从安全视角对机器学习的部分思考

作者:陈立庚(南京大学——研究方向:系统安全与软件安全)

近几年,机器学习的大规模应用,以及算法的大幅度提升,吸引了学术界、工业界以及国防部门的大量关注。然而,对于机器学习算法本身的局限性,由于其快速的发展也不断的暴露了出来。因此,不论是人工智能领域的学者,还是安全领域的学者,都希望能够从不同的角度提高模型的泛化能力,自此之后,就拉开了一场在机器学习领域的军备竞赛。在不断的“攻”与“防”的竞争下,目前的针对机器学习模型的安全问题,也取得了不错的进展。所以,在本文中,首先对机器学习模型中可能出现安全隐患的部分进行了总览。然后针对不同的场景,进行了不同场景可能出现安全隐患的描述。最后,针对不同阶段的脆弱点,综述了当前的工作情况,并以此延伸出之后的工作可行的研究点。

I、简介

近数十年内,由于机器学习的热潮,计算能力有着摩尔定律的加持,以及大数据时代的来临,让越来越多的领域里都能被机器学习很好的应用。特别是在自然语言处理,计算机视觉等领域都有非常好的发展,甚至已经可以达到商业用途的地步。但是随着数据的增长,数据的安全是否得到了保障,模型的功能性是否得到了验证这仍然是个大大的问号[1]。

同步内容
--电子创新网--
粤ICP备12070055号