美国国防部联合人工智能中心主任表示军事AI不仅仅是杀伤链

“能够快速连续拿出10个目标……这非常令人兴奋。真棒。”迈克尔·格罗恩中将说。“但是还不够。”

悉尼J. FREEDBERG

2020年11月4日上午7:01

ug陆军HIMARS卡车发射制导多管火箭系统导弹

五角大楼联合AI中心的新任主任警告说:军方一定不能太着迷于使用人工智能来寻找目标,以至于它忽略了从部署计划到升级控制的广泛应用。

在最近的实地测试中,一个实验性的陆军AI能够在20秒内找到卫星图像中的目标并将目标坐标传递到火炮。海军陆战队情报官迈克尔·格罗恩中将说,以这种方式将“杀伤链”从侦查到打击的加速是强大而局限的人工智能应用,他于10月1日接管了JAIC 。

中将Michael Groen

Groen在上周的NDIA会议上说,错误使用AI会增加“快速升级和战略不稳定”的可能性。“这实际上是我们必须……回到道德原则的地方。”

Groen指出,2月份颁布的军事AI原则要求人工智能是“可管理的”。引用该政策(重点是我们的政策):“国防部将设计和设计AI功能,以实现其预期的功能,同时具有检测和避免意外后果的能力,以及使表现出意外行为的已部署系统脱离或停用的能力。”

“能够快速连续拿出10个目标……这非常令人兴奋。这很棒。但这还不够,”格罗恩说。“我们需要考虑人机团队,以及机器如何排队供人类做出决策。”

他说:“在考虑人工智能应用时,我不仅在考虑目标探测时立即发动打击,还在思考其他问题。” “在AI可以实现的联合力量上,必须做出广泛的决策……甚至是您关于如何将力量突入战区以及在地面进行机动的顺序的决定。”

Groen在关于联合全域指挥与控制(JADC2)的会议上讲话。这是五角大楼术语的笨拙之处,实质上指的是一个未来的元网络,它将跨陆,海,空,太空和网络空间(以及电子战)这五个“域”将美国和盟军连接起来正式是一个域)。在这样的系统中,互连的复杂性呈指数级增长,令人生畏的数据泛滥和机器的毫秒级速度很容易使人类决策者不堪重负-除非某种形式的人工智能可以帮助管理细节并建议采取行动。但是,我们可以安全地将什么级别的细节委托给AI,还有哪些需要人工监督呢?

多域作战或全域作战构想了跨陆,海,空,太空和网络空间的新型协作(陆军图形)

Groen说:“这实际上取决于我们对自主权的满意。” “这就是为什么我们不仅要考虑火灾用例,”还要关注JADC2网络需要提供的广泛功能。

“ JADC2确实是未来力量的骨干”,但是“您如何构建它?” 他问。“ JADC2 AI就绪了吗?”

Groen和其他官员强调,AI并不是秘密的调味品或魔药,您可以将其撒在现有系统上以使其变得更好。要使系统达到JAIC所谓的“ AI就绪”的状态,需要进行大量的工作。

格罗恩说:“不仅仅是,’我们在发射器上准备好导弹了吗?” “ AI就绪意味着要确保来自数千个传感器的数据流将可用……。这意味着计算资源可用于算法开发……这意味着应用友好的环境,允许边缘用户自定义数据流及其支持工具。”

获取足够的数据是起点– Groen的先驱,JAIC创始人中将杰克·沙纳汉(Jack Shanahan)曾经告诉我,数据是构建AI的原材料或“矿物”。

与物理原料一样,数据有很多不同的种类,您需要仔细进行交叉引用,然后才能(例如)向可疑的敌方单位开火,以完全确信它们确实是敌对的,而不是平民或友军。你真的会达到你的目标。

格罗恩说:“考虑一下在整个联合部队中提供解决方案的事情。” “位置数据,时间数据,威胁位置数据,蓝色(即友好)位置数据,蓝色部队状态数据,天气数据,后勤数据。”

在每种情况下,他都继续说,在构建您的AI之前,您必须问和回答:“谁是推动决策的权威来源?这些类型的数据的权威来源是否知道它们是权威来源?他们连接到这个项目了吗?他们知道他们的责任是什么吗?”

这种协调既是技术上的问题,也是人类和官僚主义的问题。不仅是设计和构建AI的技术人员还必须考虑这些问题:也是指挥官也在使用它。

格伦警告说,那些指挥官不能仅仅委派“我不想担心的所有数字东西,因为这不是战斗”。“这是指挥官的业务,而不是网络工程师的业务……我们需要指挥官仔细考虑他们的决策。他们需要做出什么样的决定?他们需要什么数据源?”

帮助人工智能的外行思考这些复杂的问题已成为联合人工智能中心的主要任务。Groen说:“有成千上万的潜在客户不知道如何拼写AI。” “他们不知道他们需要它。”

JAIC现在正在创建一个专家和一个基于云的联合基金会,以帮助国防部各组织发展自己的AI。Groen解释说,JCF将提供“入门套件”。“如果您认为自己有一个AI用例,并且想要开发它,我们将带给您专业知识,并且在JCF上,我们将为您打造一个飞地,我们将为您托管数据……我们可能会为您提供帮助数据标签服务,以及测试和评估方面。”

这并不意味着JAIC将就所有军事人工智能工作做出判断。Groen说:“我认为我们不会进入JCF对整个部门的所有AI实例进行所有测试和评估的空间。” “但是……我们只有一支一流的AI测试专业团队。我们可以做的是制定标准和最佳实践。”

2020-11-6智邦网

声明:本平台发布部分内容来自公开资料或者网络,版权归原作者所有,转载的目的在于传递信息及用于网络分享,不代表本平台赞同其观点,如涉版权问题,请与我们联系,我们第一时间处理。