美国防科学委员会发布国防部反自主技术能力评估报告

2018年6月,美国防科学委员会(DSB)应国防部要求成立反自主技术工作组,对美国近、远期(30年)反自主技术能力进行战略评估,重点考察在物理作战域对抗自主系统的能力,以及在信息领域对抗自主操作的能力。2020年9月底,工作组发布最终报告。
一、基本定义
自主、人工智能和机器学习通常被作为近义词使用,但它们并不完全相同。工作组首先对这三个术语的定义进行了区分。
自主系统是指可依据委派权限或界定权限开展行动的物理或数字系统。当前,越来越多的系统引入了自主功能;某一系统即使不是完全自主系统,也可以具有某些自主功能,或在一定范围内自主行动;只要引入了自主性,无论是完全自主还是半自主,系统都面临被攻击的风险。
人工智能是促使自主系统基于对世界、自身及形势的认识,感知、规划、适应和采取行动的学科集合,可以促成一系列功能的自动化,如视觉、语言处理、机器人、规划和排程、导航与避碰、目标跟踪与瞄准、集群协同等。
机器学习是人工智能的一个子学科,研究如何使用算法和数字模型,从训练数据、示例、经验中进行学习。机器学习技术在过去十年间取得了长足的进步,极大推动了人工智能与自主能力发展,但除了机器学习之外,其他人工智能子学科也对人工智能的和自主能力的整体发展非常重要。
本报告中,反自主是指可能导致自主系统任务失败的广泛能力和时间触发协议,既包括动能毁伤,也包括传感器干扰、数据污染、网络攻击,还包括导致人类操作员对系统失去信任的各种努力;既指“反自主”,也指“反-反自主”。
二、主要结论
报告认为,当前,自主技术快速发展、成本不高且无处不在。其发展给公共和私营部门带来了物理、网络、信息层面的重要影响。美国的竞争对手和敌人也正在社会、商业、军事等各个领域快速应用和部署自主系统。美国应利用反自主能力,对抗敌人部署的日益强大的自主系统;也应确保美方自主系统足以抵御敌人对抗自主能力的措施,且不会被敌人的反自主措施所降级。
自主技术既能提高系统或操作的效率又能带来脆弱性。
自主技术是一种应用广泛的基础技术。当前,大部分军事领域、任务和保障活动都因自主功能而受益。在国防领域,自主技术既能提升飞机、导弹、无人机、无人地面系统、无人水下系统等武器和武器平台的性能,又能提高网络操作、电子战、情报及信息作战的效率,任何由人类操作员执行的模式识别、决策、优化、规划、去冲突、信息融合等工作,都能因引入自主功能而提高效率、减轻操作员的认知负担。在非传统国防领域,军队所深刻依赖的某些民用和商业基础设施,也能因自主功能的引入而减少人力需求或提高工作效率,如业务运营、后勤和补给、能源管理等。这种广泛适用性意味着自主技术进步可能迅速扩展到整个国家乃至全球,也意味着很多系统都可能面临新的风险和弹性问题。自主技术是把双刃剑,美国要在发现和利用敌方系统脆弱性的同时,降低己方系统的脆弱性。
美国防部对反自主能力发展重视不足。
工作组考察了美国防部面临的各种潜在自主技术威胁,当前及潜在的反自主能力缺口,自主系统的独特脆弱性,反自主技术所必需的关键系统能力和属性,采办、试验与训练需求,条令和战略需求,威慑敌方自主技术及避免被敌威慑的选项等,结果发现,尽管自主技术已经普遍应用于军事任务中,但美国防部乃至整个政府的主要精力都放在部署自主系统上,除反无人机以外,专门聚焦反自主技术的项目很少。
三、建议
领导力方面,国防部研究与工程副部长在自主技术以外,建立与自主技术平级但独立存在的反自主技术领导力,确保独立思考;仿效低可探测/反低可探测社群,建立一个国防部范围的自主/反自主技术社群。
能力与作战发展方面,军种部对现有常规能力进行评估及改装;创建强大的假想敌部队模仿对手的自主能力;建立多域反自主红队;制定和发展反自主技术需求、概念和战术技术程序/作战概念。军种实验室和国防高级研究计划局加强反自主研发工作。
情报方面,敏感内容,暂不对外公开。
安全保证方面,国防部采办与保障副部长建立并执行人工智能使能的自主系统弹性指南,缓减人工智能相关脆弱性。国防部研制试验与鉴定/作战试验与鉴定相关机构制定试验与鉴定指南,使人工智能使能的自主系统在全寿期具备对抗敌反自主攻击的能力。
政策方面,国防部政策副部长办公室制定政策,为美国的自主系统提供适当的保护,支持自主技术出口,确保相关进口的安全性。
人才方面,国防部长办公厅及军种部采取措施引入和培养自主技术及人工智能人才:提高人工智能人才的技能;建设自主技术及人工智能职业发展路径;扩大使用创新性人才引入机制;充分利用国会授予的直接聘用权,并申请更高的直接聘用人员比例等。国防反情报与安全局加快对关键技能人才的安全审查速度。

2020-11-5智邦网

声明:本平台发布部分内容来自公开资料或者网络,版权归原作者所有,转载的目的在于传递信息及用于网络分享,不代表本平台赞同其观点,如涉版权问题,请与我们联系,我们第一时间处理。