2022年06月29日 欢迎进入工程科技颠覆性技术专题数据库!

人工智能会对国际安全带来何种影响

2022年05月30日

人工智能的迅猛发展及其在军事领域的广泛应用,日益显现出这一新兴技术可能对未来战争和国际安全带来的潜在的变革性影响。英国学者詹姆斯·约翰逊(James Johnson)这篇载于《国防与安全分析》期刊的分析文章《人工智能与未来战争》阐述了几项“军用人工智能”技术的现状及其应用在军事领域的利弊,并对人工智能技术的泛化使用给大国竞争和国际安全造成的风险与挑战进行了剖析和预测,对我们从新兴技术视角审视国际安全问题具有一定参考价值。现将原文主要观点编译如下,以飨读者。

当前,军用人工智能技术尚未成熟,但人工智能的飞速发展难免引人深思:军队将如何使用人工智能以及人工智能赋能下的未来战争可能会对国际安全带来何种影响?

一、何为人工智能影响下的国际安全问题

人工智能作为一种全新的、潜力巨大的技术,具有难以估量的战略影响。虽然搭载人工智能的武器系统还无法完全代替人类的决策作用,但在那些需要快速决策或持续高压的作战环境中,使用人工智能的军队无疑在遥感探测、态势感知、战场掌控和压缩决策循环方面相较一般军队更具优势。

前美国国防部副部长罗伯特·沃克(Robert Work)表示:人工智能可能会给军事力量带来根本性的变化,这意味着各国军事力量将会重新调整平衡。就目前而言,人工智能本身并没有真正的战略影响,但它可以推动包括网络空间、自主机器人以及精确制导在内的多个高科技领域充分发挥潜力。军民两用人工智能技术的扩散可能会加剧现有国际安全威胁,并产生新的不确定因素。中美等大国对军用人工智能技术同时展开深入研究,将可能加剧国际战略竞争,对国际安全产生深远影响。

人工智能赋能未来战争带来的潜在安全威胁大致包括:

(1)数字安全威胁,例如鱼叉式网络钓鱼(Spear phishing)、语音合成、自动黑客攻击和数据中毒;

(2)物理安全威胁,例如微型无人机群攻击;

(3)政治安全威胁,例如监视、欺骗和胁迫。

二、自主武器与蜂群技术

人工智能技术在军事领域的应用——自主武器和机器人常被视作“第三次军事革命”或“第四次工业革命”的重要内容。自主系统的特性也迫使各国重新调整现有的国防规划。

image.png

舰载型harop想象图

直至今天,只有少数武器系统能够实现完全自主,例如巡飞弹(LAM)就能比普通导弹飞行的时间更长,灵活性更高,可拦截更高速的炮弹或导弹。从理论上来说,搭载人工智能的自主武器,可以自行做出判断并自动执行一系列行动,并且具有许多普通常规武器不具备的优势。目前,唯一投入过实战的巡飞弹武器是以色列的Harop自杀式无人机,它可以在空中飞行6个小时,在没有人指挥的情况下对探测到的雷达位置进行俯冲轰炸,在战场上能够发挥至关重要的作用。此类武器的优点有:

1.侦察与支援成本低

从理论上讲,智能无人机蜂群能比单个人类飞行员完成更多种类的任务,同时提高飞行器的生存能力,因而产生巨大优势。

在不久的将来,我们很有可能会在侦察任务中见到智能无人武器的身影。一些隐形无人武器可以穿透复杂的多层防空系统,对目标进行打击。此外,自主武器还可以在战场上为军队提供必要的补给和支援。例如,大型无人水下航行器(unmanned underwater vehicles,简称UVS)可以成为低成本的导弹平台,进行扫雷、布雷、侦察、补给以及精确制导等行动。

image.png

英国大型无人水下航行器下水试验

2.提高情报干扰效率

在日益复杂的作战环境中,人工智能技术在电子战中可以干扰敌方军用通信卫星信号。这些干扰结合网络攻击,就可能给敌人传递虚假情报,间接破坏敌方防线,并且这些攻击只能由同样智能的系统识别和防御。例如,俄罗斯军方在叙利亚和乌克兰东部等地区部署了干扰器,以干扰美国使用GPS导航的无人机。

3.缩短打击决策时间

将人工智能应用集成到预警系统(尤其是核预警系统)中,可以压缩决策时间,加快反应速度,这将使常规战争甚至核战争更具不确定性。掌握这种技术的国家可以使用大数据分析、网络能力和搭载人工智能的自主武器在必要时进行快速核打击,然后利用导弹防御系统来抵消对手剩余的报复能力。许多国家都开始了机器人决策系统的研究。据路透社消息,美国国防部(DOD)就开发了一种由人工智能驱动的“导弹狩猎系统”(missile-hunting system)原型,旨在探测导弹发射准备迹象。特朗普政府还曾提议将智能导弹计划的资金增加两倍以上。

三、人工智能赋能网络战

人工智能同样将对网络战产生变革性影响,使网络攻防的威力倍增。由于网络攻防之间有关军民的界线十分模糊,因此只能依靠不断创新来抵御复杂的人工智能操纵的网络攻击。美国国家情报总监丹尼尔·科茨(Daniel Coats)警告称,人工智能将弱化对网络攻击的应对能力,间接威胁国家安全。一方面,虽然“反人工智能”领域的研究取得了一些进展,但而传统的网络防御只会搜索曾经出现过的匹配的恶意代码,所以黑客只需要修改一小部分代码就可以绕过这种防御。另一方面,如果敌人使用恶意软件来入侵人工智能,进而操纵武器系统,就相当于在我们身边投放了一枚“定时炸弹”。调查显示,与网络攻击相比,人们对网络防御技术可能成功解决人工智能操纵的网络攻击的信心低得惊人。

此外,人工智能可以促进定制网络攻击的开发和分析,操纵公众舆论,塑造和放大对手的政治失误,造成政治混乱。物联网的普及,意味着网络攻击的范围更广,造成的损失更大。未来的网络攻击可能会以所谓的“武器操控软件”或攻击机器人控制系统为目标,不费一兵一卒实现对军事力量的打击。例如,一辆人工智能驱动的自动驾驶汽车可能会被黑客攻击,并在公路上发生撞车事故。

四、人工智能的战略博弈和军备竞赛

与冷战时期的核军备竞赛不同,人工智能引发的军备竞赛中数量和质量并不能主宰一切。这场军备竞赛中,使人工智能学习更多算法才是王道。地缘政治格局的不断变化、颠覆性技术的整合正在从根本上重塑安全环境,这反过来又影响了中美俄等大国间的博弈。人工智能在军事领域的应用尚不成熟,所以很难确定其对军事力量结构、行动组织和国防规划的影响。大国间都没有正式阐明将如何在战争中使用人工智能,因而随着各国将人工智能这项新技术内化,人工智能可能会以不同形式体现在军事力量中,这些差异可能也会体现在它们操控的武器系统中。武器系统无法实现通用,将使部分国家不得不在几家具备人工智能技术实力的大国间做出自己的选择,因而会加剧大国间潜在的猜疑和误解。

文章认为,在人工智能领域的创新竞赛中,围绕中美关系的不确定性将对战略平衡产生深远影响。就目前而言,美国在人工智能创新方面仍占据上风,但中国不再是劣势一方。美国政府和硅谷之间日益紧张的关系,将阻碍美国将人工智能军事化的进程。在谷歌员工最近极力反对之后,谷歌最近宣布将停止与五角大楼在Maven项目上的合作。文章提出,中国正迅速成为美国在人工智能领域真正的竞争对手,有可能很快赶超美国。

五、人工智能军事化可能出现的风险与危害

1. 随着人工智能应用开始定义自己的目标,可能会对人类造成意想不到的后果和威胁。使用复杂神经网络的人工智能程序经常做出令人意想不到行为。尽管许多人工智能程序已经超越了人类的认知能力,但风险在于,这些系统所犯的错误十分难以检测,因为这些错误可能会试图欺骗应用程序。人工智能程序能否准确、客观地复制、模仿和预测人类行为是人工智能研究中的一个重要问题。

2. 可能引发各大国间的人工智能军备竞赛,打破脆弱的全球核平衡。在离开五角大楼之前,罗伯特·沃克建立了一个算法战跨职能小组,研究人工智能如何支持美国在叙利亚的反恐行动,以及更准确地定位隐藏的朝鲜和俄罗斯移动导弹发射器。美国国防部还开发了基于人工智能技术帮助探测导弹发射准备迹象的导弹狩猎系统。这些无疑将对大国间现有的核平衡带来意外变化。

3.军用人工智能技术尚不成熟,国家大量使用或容易遭到颠覆。与核武器不同,自主武器不需要昂贵、严格监管,也不需要难以获得的原材料。此外,无人机的普遍性和快速下降的单位成本将意味着这些被人工智能赋能的武器装备将变得越来越强大、自主和容易批量生产。因此,一些军事较弱的国家可能会盲目相信人工智能,错误地认为可以完全信任人工智能所做出的决策,进而对本国军事力量体系带来潜在风险。

六、结语

军用人工智能技术像一把双刃剑:它的应用可以节省很多人力,大大增强军事实力,提高战场上的主动性,减少战争带来的人员伤亡和经济损失;但是如果使用不当或产生了漏洞,军用人工智能也有可能遭到敌方策反颠覆,转而攻击己方目标。这项技术的扩散将可能变革未来战争的面貌,带来许多现在未曾预料的风险,进而影响未来的国际军事与战略平衡,加剧大国间军备竞赛,对国际安全产生不利影响。面对日趋复杂难料的技术发展和日趋激烈的大国博弈,只有继续坚持“人类命运共同体”理念,才能规避“技术失控”和“误判危机”,使技术进步真正用于消弭猜疑、造福人类。

(来源:军事高科技在线 ,作者王骏、文力浩、龙坤,2022年5月28日)

【关闭】