美陆军开发创新的图形机器学习技术提高网络安全和C5ISR能力

导语

美国陆军研究实验室采用基于图卷积网络的图形采样归纳学习方法,开发出一种新颖的GraphSAINT设计框架,利用该设计框架可加速对图形的深度学习,并行化“图神经网络”(GNN)训练,在可扩展性、效率和准确性方面优于其他先进技术,可辅助士兵进行战场决策,支持美国陆军网络现代化优先项目,大幅提高网络安全和C5ISR能力。

一、图卷积网络是对图进行深度学习的基本方法

图形是一种强大的工具,可广泛用于表示复杂数据,适用于从分子结构到社会科学等众多领域。在当前的大数据技术中,图形得到了更为普遍的使用。特别是美陆军拥有庞大的实时信息数据库,其全球事件、语言和语调数据库(GDELT)就使用了大量的图形数据。这些图形以一种紧凑且非常强大的方式来表示实体之间的紧密关系以及它们的高级属性或特征,对于开发快速、高效、准确和可扩展的方法来学习这些关系至关重要。

“图卷积网络”是图神经网络的一种,是对图进行深度学习的基本方法,使人们可以学习或理解图的结构、图的连接方式、图的特征或每个节点/元素的特性。它类似于卷积神经网络,可用于陆军目标探测、物体识别等视觉与图像处理的机器学习过程,提高陆军用于威胁探测和预防的网络安全能力,增强态势感知能力,还可准确用于人类活动识别和动作检测,提高士兵防护能力。

二、陆军最新的图机器学习技术有助于保持C5ISR能力优势

常见的图机器学习训练技术非常耗时。最常见的图机器学习训练技术使用随机梯度下降算法,利用很小的训练数据集完成机器学习。其所采用的图卷积网络技术需要对图形进行采样,逐层选择节点及其相邻节点,形成每个批次的数据,然后进行分类训练。这会产生一种被称为“近邻爆炸”的问题,当进一步探究图形之间的联系时,节点的邻近节点数量会呈指数增长。这使得中等大小的图形训练非常耗时,特别是遇到社交网络图时尤为困难,因为它们具有幂律连通性关系。

GraphSAINT图机器学习技术计算时间减少为原来的1/100。美陆军研究实验室研究人员拉杰帕尔·坎南博士及其南加州大学的合作伙伴开发出一种新的设计框架——GraphSAINT,用于并行化和加速图形的深度学习。该框架采用基于图形采样的归纳学习方法,可在不牺牲精度的情况下降低图机器学习的内存与计算要求,以一种完全不同的方式提高训练效率,从而可在更大的图形上实现更深入的、更快的学习,甚至可使用轻量化的边缘计算平台。这有助于陆军开发和挖掘庞大的基于图形的信息数据库,为士兵提供在决策点所需的“可行动情报”。更具体地说,该技术是一种图归纳学习技术,即在图上训练机器学习模型,然后推广到对未知图形的推断。

▲目前最先进的GCN技术需要对图进行采样,即逐层选择节点及其邻居,形成每一批节点,然后运行分类训练。

陆军研究实验室利用新的设计框架开发的图机器学习模型可以用于全新的、动态更新的对抗性通信网络,推断敌方潜在的恶意活动并予以拒绝,从而在C5ISR(指挥、控制、计算机、通信、网络、情报、监视与侦察)方面保持优势地位。研究人员在Reddit(一种流行的社交关系图)上训练了深层图神经网络,发现其准确性显著提高,但计算时间减少为原来的1/100,在训练时间和准确性方面超越了当前最先进的图神经网络,包括Reddit、Amazon、Yelp和Flickr等使用大型图形数据集的图神经网络。通过提高归纳图学习的速度并将其扩展到极大的图形,该技术还能够用于陆军现有的实时信息数据库,支持美陆军网络/C5ISR现代化优先项目中的定位、导航与授时研究。

三、下一步工作

该项研究的下一步工作有两方面内容:

一是加速图形算法,开发优化的分布式图形训练系统。该系统将在每个处理器上进行独立的训练图分区和采样,并利用数据改组算法推动数据收敛。这将有助于研究人员在更大的图形上进行更深入的学习,实现大规模任务级并行性机器学习。

二是建立一个完整的图形处理系统。该系统由一个查询前端和一个基于GraphSAINT的扩展后端组成,使用分布式加速图形训练和推理以及其他图形分析算法。这些算法有助于推进陆军现代化优先项目研究。该项工作的目标是演示一种可使用陆军研究实验室图形数据集的小型原型系统,利用陆军的信息数据库在未知图形上进行学习,提供“可行动情报”,确保美军在C5ISR方面的主导地位。

机器学习研究的重点是实验,需要在大型数据集上正确实施复杂模型训练,并且实验要运行准确、可复现,这为联合研究开辟了广阔的空间。GraphSAINT图机器学习技术是美国陆军研究实验室开放校园商业模式的成果之一。陆军研究实验室与南加州大学合作实现了这项技术创新,双方的合作研发协议最近被美国商务部选为实验室高影响力合作研发协议之一。

2020-06-02智邦网

声明:本平台发布部分内容来自公开资料或者网络,版权归原作者所有,转载的目的在于传递信息及用于网络分享,不代表本平台赞同其观点,如涉版权问题,请与我们联系,我们第一时间处理!