| ?站内搜索:
王智勇 刘杨钺:算法安全”是智能化战争的博弈焦点
点击:??作者:王智勇 刘杨钺 ?? 来源:秦安战略??发布时间:2019-07-23 10:34:05

?

?

?

? ? ? ?【秦安点评】这是两位军事前沿领域探索者的有深度研究成果,是新军事变革的高价值新锐思考。随着互联网技术的迅速普及,网络空间成为新的作战领域,战争的概念和实践都在发生极大的变化。即便传统的的作战样式也离不开信息系统和各种数据的支持。尤其是在大数据时代,驱动数据的就是算法,算法呈现为解决问题的一系列步骤,代表着用系统的方法描述解决问题的策略机制,在很多时候起着决定性的作用,这包括左右军事指挥官的判断和决策。因此,没有算法安全就没有军事安全的新军事变革成为必然,简单利用所谓标准算法、开源算法都是一种极其危险的隐患,我们亟待向华为任正非学习,高度重视数学人才在未来智能化战争中的重要价值与核心地位。于此同时,我们必须看到,算法战争必然超越军事领域,渗透到政治、经济、文化等各个方面,尤其是跨入5G时代,我们面对的信息浪潮必然从惊涛拍岸涌现为水漫金山,算法的作用和价值将极大提升。本文作者的研究成果,开启了秦安战略研究院算法战争系列的序幕,欢迎大家期待并参与相关研究。

20174月,亚博国际娱乐平台 --任意三数字加yabo.com直达官网国防部副部长罗伯特·沃克正式提出“算法战争”概念,并授权建立“算法战跨功能小组”以推动包括人工智能、大数据及机器学习在内的“战争算法”关键技术研究。可以说,智能化战争时代算法和数据的较量大幕已然开启。正如俄罗斯总统普京所说,“谁能成为人工智能领域的领导者,谁就将成为世界的统治者。”目前,围绕“算法战争”的内涵特征等问题仍然存在一定争论,但毫无疑问的是,智能化算法在未来战争中将扮演举足轻重的角色,而“算法安全”将逐渐成为军事安全乃至国家安全的新兴领域,应当予以充分重视和高度关注。

01

算法在未来战争舞台上的角色愈发重要

算法是解决问题的一系列步骤,代表着用系统的方法描述解决问题的策略机制。算法是人工智能的基础,是实现智能化决策、指挥和协同的关键因素,是智能化军事建设必须抢占的制高点。“战争算法”则是指在战争行动中使用的各类智能化军事应用相关底层设计中实现获取战场信息、预测战争走势、完成作战任务、提升装备性能等关键指标的计算机指令代码,是为各类装备系统注入“战争技术生命力”的少数关键。随着智能化战争步伐日益加快,算法在战争各环节各领域中的重要作用也愈发凸显。

(一)显着提升武器装备性能

新型武器装备离不开底层“战争算法”的支撑,算法能够让武器装备性能产生极大提升甚至质的飞跃。例如,美军F-35战机较之F-22占优的超视距提前识别打击功能,正是基于数据系统中识别算法的高效匹配能力,通过提前分析判断识别敌机进而得以实现。普通无人机经过内部算法升级组合后,可以形成无人机“蜂群”新作战单元进而实现各类新型无人机战法。以人工智能为代表的高技术领域中,先进的“战争算法”已经是高精尖智能化军事装备的基础,对提升装备性能产生着显而易见的积极影响。即使某类技术装备在物理性能上已趋极限,但支撑算法的优化仍可能使装备作战效能进一步跃升。

(二)丰富未来战争作战手段

未来战争面临的威胁更加多种多样,没有硝烟的战场将与日俱增,包括通信网络、情报、侦察、监视、大数据和物联网在内的各项技术将使战争形态发生很大变化。2011年“震网病毒”事件中,“震网病毒”对伊朗布什尔核电站中离心机的攻击成功造成其运行失控,破坏伊朗核力量建设。“震网病毒”在攻击过程中还成功掩盖设备故障情况,利用内部复杂病毒算法谎报情况并将伪造正常运转记录回传给管理部门,造成敌方决策误判,完成己方政治任务。作为首个广为人知的依托智能算法进行攻击的自主武器,“震网病毒”再次刷新人类认知,扩宽战场边界。算法潜在应用范围十分广阔,类似“震网”病毒的攻击方式能够以信息传播速度展开攻击行动并破坏以人为中心的战场节奏,利用各种新型作战手段将战争冲突带到另一维度空间。

(三)高效辅助加速军事决策

未来战场上,算法在情报分析、辅助决策、计划校验、精确协同、智能指挥等方面也将发挥着关键作用。未来的战争需要决策优势,这是数据技术实现快节奏冲突时的一个重要优势。战争的胜负将取决于哪一方最好地控制、理解和传播战争中的信息,在快节奏战场环境中获胜需要具备在短时间内提供和处理多来源、高清晰、超简洁、能够高质量辅助决策的关键信息。算法不仅可以加速现有的决策流程和周期,甚至会改变它们。人工智能算法可以在短时间内剔除无关数据、筛选有效数据、专注关键任务信息,在几分钟内完成军事工作人员需要耗费数小时甚至更久时间完成的工作,从而允许战争人员快速准确做出最佳决策。利用算法收集、整理、分析战场信息的各类实体将使战争人员从繁琐的数据处理过程中解脱出来,专心进行战斗和决策。指挥官可以集中精力保持战场态势感知,战斗人员可以专注于打好“一蹴而就”的战斗,进而直击战场需求,改进作战体系,实现命令结构扁平化。所有这些优势都将服务于决策优化,帮助战争人员适应多变复杂的战场态势,发挥验证既定战法、寻找未来制胜之策的作用。

(四)充分释放作战人员潜能

仿生学可穿戴设备(士兵外骨骼、人形机甲)依靠算法实现众多传感器、系统和平台协作,可以充分释放人类智能的潜力,大大增强个体人员的战斗能力进而引领作战变革。亚博国际娱乐平台 --任意三数字加yabo.com直达官网最新的数字化单兵系统“塔罗斯”以及俄罗斯新一代“战士-3”系统等,都是集合生物、信息、机械、智能技术于一体的人体增强技术集成应用代表。即使现实版“钢铁侠”难以在短期内得以实现,人工智能算法也可以对军队整体训练协同能力带来提升。美军军队协同能力和训练水平的大幅度提升,离不开旅及旅以下战斗指挥系统(FBCB2)以及实战、虚拟、构造训练系统(LVC)这类高精尖信息系统的支撑。先进的作战训练系统无一例外都强调依托算法对复杂的作战问题进行求解分析、找出规律、发现方法,进而找到问题求解之策。

02

“算法战争”还是“算法安全”?

准确来说,未来战争模式将是以大规模“战争算法”为支撑、智能化装备为主导的体系对抗。就“算法战争”概念而言,战争主体之间是否能够在算法层面实现直接的博弈对抗,仍然存在高度的未知性和不确定性。但可以肯定的是,随着各国加快军事智能化发展,人工智能军事应用趋于常态,“算法安全”将具有越来越强的现实意义。在军事领域,算法安全意味着军事各环节使用的算法不受内外部因素干扰、持续正常高效运行的能力,以及算法支撑各类智能化军事应用在现实环境实现预期功能的客观状态。在认识到算法对于战争模式转变的推动作用的同时,对其本身的特有属性以及潜在风险的关注也十分必要。

(一)警惕“算法战争”的概念陷阱

从技术角度看,高性能算法往往需要与强大计算能力和大量有效数据相结合,才能产生高效计算结果。实际情况下有限的计算能力、因针对性不强导致过于冗余的数据内容,以及其他客观技术条件,制约着战争算法的实际效能。强大的战争算法往往需要与之相匹配的其他战争能力才能充分发挥潜能。这客观上意味着算法能力不断提升的同时将带来更高的资源投入和军事开支。当算法以外的常规战争能力未获得质的提升时,盲目追求算法在军事行动中的大规模应用有可能适得其反,甚至可能导致国家在面对冲突时过度自信、做出错误判断、导致错失战机甚至全盘皆输。从效应角度看,算法作为底层的计算方法,实质上是一种能使发挥实际作用的客观实体高效运行的虚拟工具。其自身无法直接展现军事效能,需要依托其他实体才能发挥战争作用。也就是说,算法本身或许并非直接用于军事对抗的战争工具,而是提升战斗力甚至改变战斗力生成模式的辅助手段。可以预见的是,在未来很长一段时间内,算法本身依然无法成为有实际作战效能的武器,无法单独创造实际杀伤或威慑效应。盲目追求超前算法优势,反而有可能陷入新形式军备竞赛中的“概念陷阱”。

(二)算法依赖可能产生“阿喀琉斯之踵”

武器装备智能化程度的提升、军事决策的提速与优化、战术系统之间的复杂协同……无处不在的算法应用将带来日益显着的算法依赖。随着搭载“战争算法”的各类实体在战场上随处可见,算法产生的功能和过程都将在指挥官和作战人员没有注意的情况下发生。类似于蜂窝服务、智能设备功能或网络操作,使用算法功能本身不需要专门的开/关按钮,但当其失效停止运转无法提供常规支撑保障时,人们才会恍然自觉对其依赖程度之深。当前快速技术变革所定义的复杂安全环境下,陆、海、空、天、电、网等多维安全领域中,“战争算法”的持续稳定高效运行面临各种未知考验。算法在设计过程中对所有的采集输入内容、复杂环境变量、运算干扰因素不可能考虑得面面俱到,一旦在军事应用过程中出现不可控变量,造成算法无法适应新的环境变化或出现意料之外的漏洞,就可能使实施效果出现重大偏差。例如,当使用高度智能化的预警系统识别导弹威胁并做出自主回应时,如果底层算法存在没有被预先发觉的漏洞,可能导致实际危机发生时系统不反应或者过度反应,酿成无法挽回的灾难后果。过度依赖算法还可能造成战争人员危机处理能力以及相关应对机制的退化,进而演变成整个作战体系中的新型“软肋”。

(三)算法反向破解可能带来致命性危害

技术层面上看,算法的敏感性和脆弱性无法忽视。比起设计一套完美无缺的算法,针对某套算法进行漏洞挖掘和后门攻击的代价要小的多。未来智能化战争中,算法的一大作用就是为各类智能化自主武器系统提供底层支撑。一旦各类武器系统的底层算法遭到破解,很可能面临失能失效甚至给己方带来严重伤害的结果。例如,如果攻击者能够成功破解对方无人机“蜂群”系统协同攻击的支撑算法并进行操纵,很可能通过改变无人机之间安全距离以及对攻击目标的识别功能等方式,让整个“蜂群”彼此碰撞毁灭甚至调转枪口“倒戈相向”实现战术打击。跟踪导弹对攻击目标的瞄准锁定、无人机对敌我人员的身份识别、防空系统对来袭导弹的轨迹预判等等,都依赖有关算法的正确高效运行。未来战场上,科幻大片中黑客靠一台电脑、几行代码控制飞机大炮扭转整个战局的情景有可能成为现实。功能/漏洞悖论是人工智能算法所固有的特性,其功能容易受到其运行所需的大量数据输入源的攻击,甚至受到欺骗、降级或其他形式的颠覆。随着算法发挥的作用与日俱增,对相关防火墙等维护“算法安全”的防御措施的挑战也越来越大。

03

保证算法安全是打赢智能化战争的基础

恩格斯认为,尖端科技的应用最早是从军事领域开始,当新科技显着提升军事作战能力时,便促成了新军事变革的发生。在作战仿真、兵棋推演、军事运筹、作战模拟等军事领域,依托算法对复杂战争问题进行深度分析进而发现规律、提出方法、解决问题的求解之策早已不断普及。在军事技术由信息化向智能化深化发展的未来,人工智能技术引爆智能化战争的拐点悄然临近。能否针对历史必然提前规划、妥善处理算法安全问题,应对新一轮军事变革,直接影响着未来战争的胜负走向。

(一)提高算法安全风险意识

维护算法安全的首要前提,是清醒认识算法军事应用过程中可能存在的风险和局限性。在全面使用智能化军事应用前,需要确保算法以受控的方式安全和可靠地运行。研究可靠、真实和可信赖的“战争算法”,面临着复杂战场环境、目标设定偏差、人机交互限制等不确定性极强的现实因素挑战,需要国家、政府、军队广泛开展专项基础科研,加大重视程度和投资力度,保证关键领域中长期应用的算法安全性和可靠性检验,特别是要建立算法运行的反馈通路,以确保系统出现差错时运行者能及时觉察并进行有效干预,进而保证各类基于人工智能算法的武器装备和决策系统的功能优化和长期安全。

(二)培养智能化军事人才

习主席在党的十九大报告中明确指出,“要加快军事智能化发展”。然而大量的商业和学术报告表明,人工智能基础算法领域的人才短缺现象越来越严重。提高智能化战争中的算法安全能力,需要更好了解当前和未来军事领域算法人才的需求,对照智能化军事建设的国家图景,培养和引进技术人才,分析预测未来人力需求,将军事技术基础教育和算法知识专项培训结合统一。特别需要打破原先泾渭分明、条块分割的学科体系思想的束缚,用思想转变引领能力提升,坚决贯彻军民融合战略,培养具备多元化军事技术基础的官兵队伍,确保国家在未来智能化战争中以主动优势赢得领先地位。

(三)构建完善评估体系

算法安全影响涉及社会伦理、道德法律等方面,跨越计算机科学、行为科学、法律和政策研究等多学科,新兴技术转变战争模式的同时也带来了新的困境与挑战。当无人自主系统代理人类行为时,最高期望是它们能够根据人类正式和非正式的规范行事。因此,在技术可行范围内,研究人员必须开发与现有法律、社会伦理和道德规范一致或相符的算法和框架。系统工程师需要关注如何能最好地处理符合道德、法律和社会目标的智能化军事应用系统整体设计。国家理应积极组织跨部门讨论与多领域协作,突破价值冲突和应用困境。相关国际组织应该致力于制定符合国际关系准则和人类道德约束的国际规范或公约,维护未来人类共同价值观稳定以及和平福祉长久安全。

伴随着信息技术获取、大数据挖掘、超算能力、人工智能等新兴技术在军事领域的飞速发展和大规模使用,作为底层工具的算法技术也必将成为改变战争游戏规则的基础性、关键性、颠覆性技术。但正如已故物理学家霍金担忧人工智能的崛起可能带来人类文明的终结一样,算法技术同样可能为未来智能化战争埋下了不少始料未及的难题。只有清醒认识到算法的双刃剑效应,理清影响算法安全的多重因素,解决步入算法时代的现实问题,才能真正把握战争模式变化,掌握战争制胜机理,提高战争打赢能力。

责任编辑:向太阳
特别申明:

1、本文只代表作者个人观点,不代表本站观点,仅供大家学习参考;

2、本站属于非营利性网站,如涉及版权和名誉问题,请及时与本站联系,我们将及时做相应处理;

3、欢迎各位网友光临阅览,文明上网,依法守规,IP可查。

热点排行
  • 一周
  • 一月
  • 半年
  • 建言点赞
  • 一周
  • 一月
  • 半年
  • 图片新闻

    友情链接
  • 186导航
  • 红旗文稿
  • 人大经济论坛
  • 光明网
  • 宣讲家网
  • 三沙新闻网
  • 西征网
  • 四月网
  • 法律知识大全
  • 法律法规文库
  • 最高人民法院
  • 最高人民检察院
  • 中央纪委监察部
  • 共产党新闻网
  • 新华网
  • 央视网
  • 中国政府网
  • 中国新闻网
  • 全国政协网
  • 全国社科办
  • 全国人大网
  • 中国军网
  • 中国社会科学网
  • 人民日报
  • 求是理论网
  • 人民网
  • 备案/许可证编号:京ICP备15015626号-1 昆仑策研究院 版权所有 举报邮箱:kunlunce@yeah.net