人工智能黑客时代即将来临

文章来源于国防科技要闻 ,作者王鑫运

2021年4月15日,美国哈佛大学肯尼迪学院贝尔弗科学与国际事务中心发布《即将到来的人工智能黑客》报告。报告指出,人工智能在一定程度上会对社会产生负面影响,主要体现在两个方面:一是人工智能系统会被用来干扰人类认知;二是人工智能系统将成为黑客,在社会、经济和政治系统中寻找漏洞,然后以前所未有的速度、规模和范围来利用这些漏洞。

报告主要观点摘编如下。

一、人工智能可能成为黑客,干扰人类认知,影响社会、经济和政治系统发展

计算机无处不在,影响着人类生活的方方面面,使得黑客攻击可以出现在任何地方。经济、社会和政治系统的发展都依赖于人类做出正确决策,人工智能系统可能通过多种不同方式入侵人类大脑,使人类认知受到干扰。例如通过在社交媒体发布虚假信息干扰公众注意力,破坏公众对现实的认知;通过夸大恐怖主义的威胁力度,来攻击人们的风险评估认知系统等。不同政治、经济和社会系统易受人工智能黑客攻击的程度不同。基于多种规则的复杂系统和受社会规范约束的系统更易受到攻击,前者是因为更容易产生意料之外的后果,后者是因为系统的可解释性导致其存在更多漏洞。

二、人工智能黑客攻击主要包括蓄意和无意两种情况

一是人工智能可能被人类蓄意用于入侵某个系统。例如操作员可能会向人工智能系统提供世界税法或世界金融法规,让其寻找一系列有利可图的黑客攻击方式。
二是人工智能可能会自主地、无意地入侵某个系统。这两种情况都很危险,但后者更加危险,因为人类可能永远不知道系统被入侵。

三、人工智能黑客攻击具有速度快、规模大、危险性强的特点

人工智能的出现,从速度、规模和危险性三个方面,对入侵经济、社会和政治系统的黑客攻击产生影响。人工智能系统不会像人一样受到伦理道德的约束,会以人类无法预料的方式入侵系统。首先,人工智能系统使得黑客攻击以惊人的速度进行,这是一种本质的变化,过去一个需要几个月或几年的入侵过程,可能只需几天、几小时甚至几秒钟;其次,人工智能系统一旦发现可利用的漏洞,将以人类无法预测的规模进行黑客攻击;最后,人工智能系统不断扩大的覆盖范围,使得黑客攻击更具危险性。

四、随着人工智能系统复杂性的增加,其可解释性将越来越差

现代人工智能系统本质上是一个黑盒,数据从一端进去,处理结果从另一端出来。与人类解决问题的方式不同,人工智能系统会比人类考虑更多可行的解决方案。人工智能系统的决策可能会超出人类的理解范围,而强制进行解释可能会带来更多的限制,从而影响人工智能系统做出的决策。2017年,美国国防高级研究计划局启动“可解释的人工智能”研究计划,寻求系统能力和可解释性之间的平衡。在不久的将来,随着人工智能系统复杂性的增加,其可解释性也将越来越差。

五、加强防御人工智能黑客攻击的措施建议

当人工智能系统能够发现软件漏洞,并利用这些漏洞在全球范围内对计算机网络进行大规模黑客攻击时,人类将处于前所未有的危险当中。为此,报告提出了两条防御措施:一是要建立快速有效应对黑客攻击的弹性管理架构,例如修订国家法律法规和社会规章制度;二是要加强人类与人工智能系统间的交互理解,充分了解人工智能系统扮演人类角色时可能出现的风险。

如需转载请注明出处:“国防科技要闻”(ID:CDSTIC)

最新文章