近日，美国家安全委员会联合主席埃里克·施密特与罗伯特·沃克发表联名文章，寻求应对人工智能挑战、保护国家安全、确保美国在人工智能领域全球领先地位的方法。文章提出以下问题：美国会与美国家安全机构不应独自应对与人工智能有关的挑战，政府应在何种程度上依靠私营部门发展其人工智能能力？美政府应发展何种能力应对威胁？应采取何种措施确保公众、战略决策者或盟友对用于国家安全的人工智能系统的信任？本文主要针对以上问题进行分析。

一、第四次工业革命

人工智能的兴起被称为第四次工业革命，而私营企业在推动人工智能发展方面处于领先地位。鉴于人工智能研究的公开性，美国防部在公布其人工智能算法和数据收集方面面临的风险相对较低。从学术界和私营部门推动人工智能研究的举措可以看出，共享开源数据和基准数据（用于训练和评估算法的数据）加快了人工智能创新步伐，开源研究对发展人工智能大有裨益。在人工智能蓬勃发展之前，学术界就普遍认识到开源工具的重要性。美国防部应将开源研究作为其优先发展事项，广泛应用于软件工程和网络安全领域。

二、评估开源研究风险

为提升人工智能研究安全，保护美国家安全利益，美国防部应保护敏感型人工智能技术，包括技术研发细节以及技术潜在用途等。人工智能技术的进步在很大程度上依赖学术界、人工智能研发公司，以及使用云基础设施的个人等。现状却是，即使一个单独的、封闭式研究小组得到政府支持，也不太可能取得人工智能技术的显著成果。文章指出，均势对手试图应用军方算法与其从公共领域获得的算法相比，所获成果甚微；美国防部发布的用于对抗人工智能技术的算法，不会显著优于开源领域发布的算法。美国防部可通过算法模拟来自开源领域的攻击，以先发制人地应对对手攻击。

三、军事数据集

人工智能算法的性能取决于它所训练的数据，与军事相关的数据集只与公共数据集有部分重叠。如果美军方只公布算法，而不公布目标数据集，对手将很难开发出操作相关算法的能力。美国防部可以只公布部分数据集，将敏感数据用于培训和测试有潜在应用的算法，发布与训练和测试自身系统略有不同的数据版本。为了干扰美国将数据和算法用于防御目标，对手需使用先进的硬件，并改变其操作原则。美国防部应保持快速、持续的算法整合过程，利用人工智能领域的最新进展，快速更新部署的平台，抵御最新已知类型的攻击。

美国防部应在算法和数据共享方面保持更大的透明度，且确保对手不会利用这种透明度。同时构建开放式研究与发展战略，始终保持人工智能领域的前沿研究，推动美国防部成为人工智能研究领域的全球领导者。

作者：张明月