研究背景

随着人工智能在全球范围内蓬勃兴起，人工智能技术与经济社会各领域融合加快，新一轮技术革命浪潮扑面而来，人类正在迈进人工智能驱动的“智能时代”。人工智能概念的正式提出，是在1956年美国达特茅斯会议上。自此，人工智能开始了至今已达60多年的发展历程，这期间经历了起落明显的三次发展浪潮。当前，受数据、算法、算力等多种因素集中发力影响，以深度学习为代表的人工智能技术快速增长，商业模式逐渐丰富，新兴业态不断涌现，行业应用持续拓展，引发社会各界广泛关注，人工智能迎来第三次发展浪潮，吸引着来自商业投资者、研究学者、政策制定者以及国际社会的目光。

美国国会发布《人工智能与国家安全(2019)》报告

各国高度重视人工智能对经济社会发展和国家安全的重要作用，竞相布局人工智能领域，抢抓未来发展机遇。一方面，加快出台人工智能国家战略及政策。特别在人工智能战略前沿技术、关键共性技术、工程应用技术等领域加大政策倾斜力度，同时在制造、交通、金融、医疗、公共管理等领域集中力量攻克一批重大应用问题。另一方面，注重人工智能带来的经济社会影响，出台相关治理规则。截至目前，美国、欧盟、日本、新加坡等全球主要经济体都通过政府、行业协会或者企业组织等层面发布了涉及人工智能伦理或治理的指南，希望通过自律的方式实现人工智能可持续发展。随着人工智能应用领域的不断扩展，也产生了新的经济社会问题，包括隐私保护、算法歧视、就业冲击、国家安全等。这些是全球普遍面对，而且是与行业健康发展息息相关的问题，其中人工智能可能带来的国家安全问题引发了广泛的讨论与关注。

美国国会关注点

美国国会连续在2017年和2018年的听证会上讨论以下问题：人工智能可以应用于哪些军事类型？使用人工智能进行军事应用有哪些优势和风险？人工智能将如何改变战争，会对美国竞争对手的军事布局产生什么影响？对此，一些美国国会议员呼吁对人工智能在军事领域的应用进行规制。目前，美国国防部已经相应的采取多项举措：

一是成立人工智能联合中心（JAIC），旨在发展人工智能技术，探讨人工智能的可操作化应用；

二是发布人工智能开发和部署战略路线图，以及国防部符合伦理、法律应用人工智能的指南；

三是建立国家人工智能安全委员会，以对于军事相关的人工智能技术进行全面评估，并提供提升美国在人工智能领域竞争力的建议。

美国国会还需要考虑美国国防部资金是否充足的问题。尽管，美国国防部在2018年增加了对于JAIC17.2亿美元的预算，以及对于美国国防高级研究计划局（DARPA）20多亿美元的预算，但是一些专家仍认为需要更多的资金来投入到人工智能智能领域，避免美国在军事技术上的创新不足。

由于美国缺乏独立的实体机构来制定和实施人工智能安全标准以及监督政府对于人工智能的开发和利用。美国国会同时也在考虑制定在军事领域应用人工智能的相关政策，评估出台相应政策的必要性，以应对人工智能的发展。此前，美国一直考虑出台规制致命性自动化武器的政策，不过部分专家担心，规范自动化武器，将扼杀其他有用的军事甚至商业技术的开发。此外，美国国会也关注在人工智能领域的国际竞争环境以及其他国家基于军事目的使用人工智能技术的危害。

一些美国国会议员呼吁对人工智能在军事领域的应用进行规制

美国军用人工智能现况

二是后勤。人工智能在军事后勤领域也将发挥作用。例如，美国空军正开始将人工智能用于飞机维修的预测工作，根据每个飞机的需求量身定制维修计划。具体方式是，提取嵌入在飞机发动机和其他机载系统中的实时传感器数据，并将数据输入预测算法中，以确定技术人员何时需要检查飞机或更换零件。

三是网络空间运作。人工智能很可能是推进美国军事网络空间运作的关键技术。例如，传统的网络安全工具仅会寻找已知恶意代码的历史匹配项，因此，黑客只需修改部分代码即可规避防御。但利用具有人工智能功能的工具可检测更广泛的网络活动模式中的异常情况，可以为黑客攻击设置全面和动态的障碍。

四是信息内容和深度伪造。深度伪造是指利用人工智能技术实现对图像、音视频的生成或修改，意图产生误导的效果。深度伪造技术的兴起带来了重大风险挑战，具有难辨别、逼真度高、适用范围广等特性，可能会侵害个人权益，严重的还会危害社会公共利益和国家安全。《2020财年Damon Paul Nelson和Matthew YoungPollard情报授权法案》规定开展深度伪造鉴别技术竞赛，要求国家情报总监实施一项500万美金的奖励计划，刺激技术的研究、开发或商业化，以自动检测被机器操纵的媒体。

人工智能在美国军事领域得到广泛应用

美国军用人工智能的挑战

一是技术。人工智能在军事上的适应性难易程度存在较大的差异。在某些情况下，人工智能可以直接应用于军事领域。例如，飞机维护的案例中，只需要对少量的数据进行调整，人工智能既可解决飞机之间的差异。在另外一些情况下，人工智能技术并不适用于复杂的战斗环境，需要对人工智能技术进行大幅度的调整。例如，军用自动驾驶车辆不同于商用自动驾驶车辆，军用自动驾驶车辆需要在崎岖的地形中具备越野行驶的能力，但商用自动驾驶车辆并不具备这一能力。

二是标准。民用和军用人工智能的安全性和性能标准并不一致。民用人工智能应用的故障率可能超出战斗环境的容忍度，反之亦然。最近的一项研究显示，在复杂的环境中，人工智能出现故障的可能性将增加。

三是人员。如果美国国防部无法招募到合适的人工智能专家，军用人工智能的进程可能会被延迟。美国前国防部部长曾提议成立“人工智能训练团队”，对人员进行军事训练，培养人工智能军用人才。

四是文化。美国国防部和科技公司之间明显的文化鸿沟也可能为军用人工智能带来挑战。出于对人工智能伦理问题的担忧，一些科技公司拒绝与国防部开展合作，担心国防部将人工智能用于监视和武器系统中。

人工智能将对现代军事产生重要影响

人工智能对战争的潜在影响

关于人工智能对于战争的影响，美国存在不同的意见。

一是对战争影响较小。一些研究人员认为，人工智能的安全问题当前有可能无法克服，这将使人工智能并不适宜被军用化。算法将在接下来的10年内充分发挥其潜力，但如果使能技术（例如具有更高能效的芯片或量子计算方面）无法实现重大飞跃，人工智能的发展将无法继续进行。

二是进化战争。部分研究人员认为，人工智能将对战争产生重大影响，人工智能将使军事效能和战斗力得到巨大的改善，目前相关的研究项目已经可以用来应对情报评估等工作。

三是颠覆战争。部分研究人员认为，人工智能将对战争带来革命性影响，断言人工智能将改变战争方式。人工智能可以做出速度更快、质量更高的决策，这将成为战争中的决定性优势。