如何更大程度地延长网络的生命周期是设计无线传感器网络路由协议时需要考虑的重要因素。针对此问题,提出一种新型的基于改进粒子群优化的分簇算法。该算法调整了传统粒子群优化算法的惯性权重系数,能够避免其过早陷入局部最优；同时考虑到能量均衡和传输路径,将转发节点与簇头协作,以减轻簇头的能耗。仿真对比实验表明,改进算法在合理分配节点和平衡簇结构系统方面具有良好的性能。

如今,上亿的Wi-Fi热点被广泛部署,用于给人们提供Wi-Fi连网服务。为了加快Wi-Fi连接的速度,移动设备会发送探测请求帧来发现附近的无线热点,并且保存曾经连接过的AP的SSID,即首选网络列表 (PNL)。已有研究表明,由探测请求帧发出的SSID构成的Wi-Fi指纹会泄露用户的隐私信息。基于对现实情况中Wi-Fi指纹所造成的隐私泄露程度的分析,提出了数据驱动的隐私保护方案。首先,针对4个城市中2700万用户连接400万Wi-Fi热点的行为进行了测量研究,并证明了在很多场景下Wi-Fi指纹都可以用来区分用户。基于对Wi-Fi指纹中SSID语义信息的研究,可以推断出这些用户的身份信息(如工作信息)。其次,提出了一种基于协同过滤的启发式方法,它通过给用户的PNL中添加伪SSID来模糊其信息,并使得附近的人彼此之间的PNL与Wi-Fi指纹都更加相似。最后,基于真实的Wi-Fi连接数据验证了上述策略的有效性,实验结果表明,修改PNL不仅能保护用户隐私,而且能保证快速的Wi-Fi连接。

针对用户设备电池寿命有限的问题,提出了一种基于分簇的资源分配机制。该机制结合图着色原理对D2D用户分簇;随后根据分簇结果,采用拍卖算法为D2D簇分配信道;利用非合作博弈论模型对完成信道分配的用户进行功率分配。仿真结果表明,该机制有效地延长了电池寿命,提升了用户的能量效率,同时满足了用户传输速率的需求,保证了用户获得更高的QoS。

随着无线通信系统的宽带化,传统的数据加密算法具有很高的计算复杂度,并且没有考虑到物理层调制方式的安全性。针对这一问题,从物理层加密的角度,提出了一种基于无线OFDM系统的调制方式保护算法。在单载波和多载波情况下,分别对所提算法的调制方式保护效果进行了分析,并通过采用典型的认知无线电调制识别方法对加密前后的识别率进行了仿真和比较。理论分析和仿真结果表明,所提算法在不改变原系统固有性能的情况下,具有不错的调制方式保护性能。

稀疏码分多址(即非正交多址)(Sparse Code Multiple Access,SCMA)技术,具有在有限频谱资源下过载通信的特点,能够显著提升频谱利用率。得益于稀疏码分多址码本的稀疏性,消息传递算法(Message Passing Algorithm,MPA)成为经典多用户检测算法。在传统MPA方法中,尽管与最大似然译码具有相近的误比特率(Bit Error Ratio,BER)性能,但指数运算的复杂度仍然很高。据此,设计一种基于置信度的动态边缘选择更新方法,以减少不必要的节点运算。每次迭代中,利用因子图模型中功能节点到变量节点的置信度稳定性信息,动态判定是否需要节点更新运算。仿真结果表明,动态边缘选择方案使得算法的复杂度得到显著降低,并且能够与BER取得良好的均衡。

针对机会网络中数据送达率较低的问题,文中根据节点历史接触信息即节点相遇次数、相遇时间长度、节点关系稳定性来计算节点转发效用值。首先选择通信范围内效用值最大的邻居节点作为初始转发节点,再根据余弦相似度选择其他转发节点,使得转发节点能够尽可能均匀地分布。在此基础上,提出一种基于节点位置余弦相似度的机会网络转发算法(Opportunistic Network forwarding algorithm based on Node Cosine Similarity,ONNCS)。该算法使得转发节点能够均匀地分布,因此数据报文能够尽快地被转发到目的节点。实验结果表明,ONNCS具有较高的转发成功率和较低的转发能耗,转发成功率高出其他算法5%～8%。

针对WSNs路由协议中链路通信负载不均引发的能量空洞问题,提出一种基于虚拟网格的动态聚簇策略IDCS和考虑数据转发延迟的最大化网络生命周期的动态负载均衡路由算法DCDLB。IDCS依据节点的通信半径将网络划分成若干虚拟网格,采用考虑节点能量和位置因素的分布式簇首选举策略,并引入基于簇首能量水平的动态簇首轮换机制。DCDLB综合考虑簇首间能耗均衡和数据多跳转发延迟来构建路由,实现网络生命周期的最大化。实验结果表明,DCDLB路由算法在延长网络生命周期和降低数据转发延迟方面优于LEACH,HEED和CRVB路由算法。

滤波正交频分复用技术(Filtered Orthogonal Frequency-Division Multiplexing,F-OFDM)是针对下一代移动通信的新技术,它在保持4G OFDM技术强抗干扰能力等诸多优点的基础上,能够适应未来各种灵活的业务配置;但其对相位噪声更加敏感,相噪会导致其出现子带共同相位误差(Sub-Band Common Phase Error,SCPE)和子带载波间干扰(Sub-Band Inter-Carrier Interference,SICI),严重降低系统性能。基于最大期望准则(EM),提出一种自适应EM相噪抑制算法(AEM-PNS),其中包含EM-SCPE和EM-SICI两个子算法,算法通过在符号帧中插入的相噪指示符(Phase Noise Instruction Symbol,PNIS)和导频指示符(Pilot Instruction Symbol,PIS)自动选择子算法。仿真结果表明,新提出的算法能自适应跟踪相噪的变化,有效降低相位噪声的影响,同时具有较低的计算复杂度和较高的频谱效率。

对于物联网服务的描述,现有的标准是基于XML(Extensible Markup Language)的WSDL(Web Services Description Language)语言,但WSDL语言不能对物联网服务进行语义方面的描述,从而影响了服务发现的准确率。在现有的语义服务描述语言中,OWL-S(Ontology Web Language for Services)语言的影响力最为深远。为了对物联网服务进行语义化描述,提出一种从WSDL到OWL-S的转换方法。通过操作映射和本体映射,该方法能够将已有WSDL文件转换为OWL-S文件。通过一些测试集合和实例验证了所提方法对文件转换的有效性,而且转换结果的查准率和查全率优于MWSAF方法。

采用存储-携带-转发方式的机会网络不考虑消息在传递过程中经历节点与目的节点的相遇概率,对消息传播状态的估计结果存在较大误差。文中提出一种基于节点相遇间隔的缓存管理策略,利用节点相遇间隔服从指数分布的特性,结合消息在网络中的副本数量,估计出消息的平均投递概率。在节点缓存溢出时,根据估算的消息投递概率对缓存中的消息进行排序,优先删除投递概率低的消息,达到缓存管理的目的。仿真结果表明,使用该方法对节点缓存进行管理,在提高网络中消息投递成功率的同时,有效降低了消息的平均投递延迟和网络负荷。

现有的基于网络流量的协议格式推断方法只提取报文关键字的平坦序列,并没有考虑报文关键字之间的顺序、并列与层次关系的结构特性;此外,报文样本中的噪音往往导致关键字识别的准确率偏低。文中提出了一种自动识别未知协议报文关键字并推断报文结构的方法。所提出的方法在收集未知协议实体程序通信报文的基础上,采用二阶段闭合模式挖掘策略对通信报文实施闭合序列模式挖掘,识别协议关键字并生成包含具有关键字组合关系的关键字序列;在此基础上提取关键字之间的顺序、并列以及层次关系,进而推断报文结构。协议关键字识别过程中采用设置最小支持度阈值的方法,可直接分析实际网络中包含噪音的报文样本,保证了关键字识别的准确率。实验结果表明,所提出的协议格式推断方法被应用于文本协议和二进制协议时,对报文关键字识别与报文结构推断均能取得理想的推断效果。

路由可用性是指用户能够得到所请求服务的概率。随着互联网的发展,大量实时业务涌现,对网络实时性的要求也越来越高,对互联网的“自我修复能力”也提出了很高的要求。网络故障频繁发生,在修复网络故障的过程中可能会发生路由环路和收敛时间过长等问题,而且修复故障的时间一般在几秒到几十秒之间,已经无法满足实时应用对目前互联网的可用性需求。因此,提高路由可用性已经成为目前亟需解决的问题。文中总结和分析了目前已有的提高路由可用性的方案,并将这些方案主要分为被动恢复方案和路由保护方案两大类;详细介绍了目前国内外的科研成果,对比了各方案的优缺点,总结分析了这些方案的主要贡献及不足,并探讨了进一步的研究方向。

针对山洞环境提出了一个全新的基于几何的模型,该环境中山洞两侧通道从入口处到深处逐渐变宽(变窄),根据几何模型,并且借助射线理论,假设通道两侧表面是近似光滑的,提出山洞环境下声信号通信系统单发送单接收的随机信道模型。根据几何模型研究了通道两侧张开角度对信道包络分布、即时信道容量、时间自相关函数、频率相关函数、多普勒功率谱密度以及功率延迟分布的影响。理论和仿真结果表明,相对于通道两侧平行(即两侧张开角度为0)的情况,通道两侧张开角度仅很小的变化就会对声信道无线通信系统的各项统计特性产生非常显著的影响,并且通道两侧平行为本研究内容的一个特殊情况。

在数字通信系统中,均匀星座分布的离散信号经过功率受限、噪声功率谱密度一定的AWGN信道传输后,最大信息速率无法达到高斯信道容量。为了更好地提高传输速率使其逼近信道容量,信号星座的非均匀分布设计是非常必要的。为此,提出了一种基于Box-Muller变换,在星座点数趋近无穷时满足高斯分布的M-APSK信号星座构建方法,并通过仿真对其信道容量可实现性进行了验证。实验结果表明,与矩形M-QAM信号相比,该信号在调制阶数较高时星座容量指标得到了可观的提升。在此基础上,根据该星座分布的特点,设计了基于格雷编码和简化Max-Log LLR算法的调制解调方案,明显降低了系统复杂度。通过对系统复杂度、误比特率进行Matlab仿真,验证了所提方案的相关性能。

科技的进步使得智能移动设备越来越普及化,移动设备流量急剧增长。但智能移动设备由于自身资源及计算性能有限,在处理计算密集型和时间敏感型应用时可能会面临能力不足的情况。将移动终端需要处理的计算卸载到边缘网络中的计算节点进行计算,能有效解决此问题。基于移动边缘网络介绍了已有的计算卸载策略,从最小化延迟、最小化能耗、最大化收益这几个方面进行阐述,对比了不同侧重点的卸载策略的优缺点,并对移动边缘计算卸载策略的未来发展进行了思考与展望。

无线传感器网络(Wireless Sensor Networks,WSN)是由大量通信、计算及存储能力有限的传感器节点通过自组织方式构成的网络,可以部署在恶劣环境中执行长期的监测任务。数据查询是 WSN中最基础的操作之一,主要指用户通过特定节点向网络分发查询请求,而网络中满足要求的节点再将数据返回给用户。在查询过程中,由于网络存在动态性(如:节点由于受到外力破坏而损毁、移动或睡眠,导致网络拓扑及连通性发生变化;通信链路不可靠等),使得数据传输出现延迟大、能耗高甚至数据丢失等情况,导致查询成功率低。目前有很多学者对该问题进行了研究,并取得了一定的进展,但实际应用中依然有很多问题仍待解决。为了进一步推进动态无线传感网中数据查询技术的深入研究,对近年来的典型工作进行了分析、归纳和总结,并对比了它们的优缺点;然后讨论了该领域亟需解决的关键问题,并指出了下一步的研究方向。

随着互联网产业的扩张,对于网络核心技术的研究和创新刻不容缓,未来网络试验设施项目的建设为网络相关的科研人员提供高效便捷的试验环境,以支持网络技术的创新研究和实验。未来网络试验的基础设施资源是提供服务的基础,因此对试验资源的调度管理是项目中非常重要的任务。文中面向未来网络试验设施项目的资源调度和试验服务需求,设计了集中与分布相结合的架构,通过使中心资源调度管理系统与节点资源调度管理系统相互配合,来协调调度主干网带宽资源和位于各站点数据中心的资源。并且针对试验设施的特点,设计了综合考虑虚拟机间的通信代价、站点内物理机的平均资源利用率和资源均衡的多目标优化节点资源调度算法。仿真实验结果表明,该算法能有效实现上述多个目标的优化。

随着车载应用、移动设备和物联网的快速发展,开发处理车载网大数据的高效架构已成为未来智慧城市关注的重要问题。然而,车载网复杂且不灵活的架构面临一系列挑战,如高移动性、间歇性连接、应用程序的异构性。在这种背景下,软件定义网络(Software Defined Network,SDN)可编程和灵活的网络架构,在有线网络管理和异构无线通信中受到学术界和工业界的广泛关注。在车载网中应用SDN可以提高灵活性、可靠性、可编程性和可扩展性,增强车载网提供应用和服务的能力,提高用户服务质量。文中首先描述了SDN的体系结构,然后从架构和数据传播角度出发概括了软件定义车载网络(Software Defined Vehicular Networks,SDVN)的研究进展,随后概述了结合移动边缘计算(Mobile Edge Computing,MEC)的SDVN研究现状,接着讨论了SDVN存在的问题和挑战,最后介绍了SDVN的应用前景。

近年来,随着现代网络通信和社会媒体等技术的飞速发展,复杂网络成为多学科交叉研究的热点之一,社区发现是复杂网络中的一个重要问题,对其进行研究具有重要的理论意义和应用价值。该问题吸引了多个学科领域的众多学者的关注,并且已有许多社区发现算法被提出。已有的社区发现综述多是侧重某一方向或特定领域展开,基于此,文中在之前工作的基础上,对国内外社区发现工作进行了深入调研,较全面地阐述了复杂网络社区发现的研究现状。首先,针对不同网络结构,给出社区发现的问题定义和主要的评价指标。然后,介绍了不同网络结构中的经典社区发现算法,包括同质网络中的全局社区发现、局部社区发现算法,异质网络中的二分网络、三分网络和多分网络中的社区发现,结合节点内容和连接结构的社区发现算法,以及动态网络中的社区发现和社区演化工作。最后,简要介绍了社区发现的典型应用,包括影响最大化、链路预测和情感分析领域的应用。此外,探讨了当前社区发现研究面临的主要挑战,试图为社区发现研究领域勾画一个较为清晰和全面的轮廓,为初学者提供指引。

在5G时代,大规模物联网应用对网络架构提出了异构性、可扩展性、移动性和安全性四大挑战。基于TCP/IP的网络架构存在IP标识与位置绑定的二义重载问题,难以应对这四大挑战。命名数据网络(Named Data Networking,NDN)将内容作为第一语义,具有网络层和应用层逻辑拓扑一致性。NDN对这四大挑战的支持分别体现在:网络层命名屏蔽了底层异构细节,端到端解耦及网络层缓存使得NDN天然支持多对多通信和广播,消费者驱动的通信模式为消费者移动性提供原生支持,面向内容的内生安全更轻量可信。文中总结了基于NDN构建物联网亟待解决的问题,并对NDN与边缘计算、软件定义网络和区块链结合来构建边缘存储和计算模型、集中式与分布式结合的控制模型、分布式安全模型提出了展望。

流体系统包括城市供水管网、天然气供给管网等,是具有经济和社会价值的重要基础设施。它们具有分布地域广、结构复杂、规模庞大、难以检测等特点,在出现泄漏、污染等异常时难以快速发现和准确定位。随着传感器技术、通信技术、微机电技术等的发展,利用无线传感网来对系统进行监测成为研究热点。由于在流体系统中通信困难,数据被监测到后很难实时传送给用户,只能暂时保存在传感器节点(简称节点)上,等待适当的时刻再进行上传。但是,节点具有体积微小、易损坏、存储容量小、通信能力弱、能量有限等特点,如何可靠地存储大量的数据是一个难点问题。目前,已有部分工作对这个问题进行了研究。为了解该领域研究的进展,文中对相关工作进行了细致地分析、对比、归纳和总结,介绍了它们的优缺点,并对未来的研究方向进行了探讨。

面向大规模用户的多媒体业务尤其是在线视频业务正呈现爆炸式发展的态势,D2D(Device-to-Device)多播内容共享技术被认为是一种可以有效应对大规模用户海量数据分发的关键技术。但目前关于D2D多播内容共享的研究多集中在如何提高系统的能量有效性上,对于系统数据速率和的研究不多,而系统数据速率和是反映系统能否高效分发内容的一个重要指标。为了建立一个贴近实际场景的用户模型并实现高效内容分发以减轻基站负担并提高资源(频谱和能量)利用效率,文中提出一种基于物理-社交感知和支付激励的D2D多播内容共享策略。首先,根据实际场景的限制对D2D多播通信进行建模,把模型的应用场景扩大到人流集中的高速内容共享的“热点”地区和不利于基站直接传输数据(如抗震救灾时)的大规模搜救行动的“盲点”地区。随后,以有效降低基站负载和应对海量数据分发为目标,提出以多约束条件下系统等效数据速率和为目标函数的优化问题,通过引入支付机制激励用户作为簇头为其他用户提供共享内容,通过引入基于兴趣相似度的社交关系来提高资源利用效率并降低用户支付代价。最后,提出簇头选择-簇形成算法来求解上述问题。在簇头选择算法中,在考虑用户数据速率阈值限制的同时,引入基于用户兴趣相似度的社交关系;在簇形成算法中,采用了一种增益定义与“联盟”内涵高度契合的集中控制式的联盟形成博弈模型。仿真结果表明,与相关同类策略相比,所提策略在等效数据速率和与实际数据速率和两项指标上的性能得到了显著提高,同时证明了该策略适合大规模用户的网络。

在无线传感网络通信中,传感器数据需要通过无线设备发送给上位机。随着终端传感器传输数据量的增大,无线设备的发送能耗逐渐加大。在不便于及时维护的复杂环境中,这将导致无线通讯设备过早失效从而使得通讯中断。因此需要先将传感器采集到的数据进行压缩,减小发送数据量。在分析传感器数据特点和传统的LZW(Lempel-Ziv-Welch)压缩算法的基础上,提出了一种面向无线传感网络应用的改进LZW算法。该算法首先对采集到的传感器相邻数据进行差值预处理,以提高数据项的重复率;然后选择大小合适的字典,在字典上用哈希存储的方式代替传统的顺序存储,以改进字典更新方式,当检测到压缩率降低时更新字典,并保存常用单字符,释放字典空间,达到数据压缩的目的。实验数据显示,与传统的LZW算法相比,改进的LZW算法使得有序传感器数据的压缩率最高降低40%,减小了所需发送数据的数据量,压缩速度也提高了近10倍,证明了面向无线传感网络应用的改进LZW算法是有效可行的。

基于二维稀疏平面阵列的波达角(Direction-of-arrival,DOA)估计问题在第五代移动通信大规模多输入多输出阵列的应用中日益重要。无网格稀疏重构技术促进了DOA估计问题的发展,原子范数理论则使得DOA估计的超分辨率得到进一步的提高。文中研究了多个方向的频谱稀疏信号入射到二维稀疏阵列时的DOA估计问题。为了准确、成对地识别出所有入射信号的仰角和方向角,提出了一种基于多个测量矢量(Multiple Measurement Vectors,MMV)的二维原子范数算法,并用半正定规划进行求解。所提算法将二维DOA估计问题中的压缩感知理论从单个测量矢量拓展到多个测量矢量,从而有效利用MMV的联合稀疏性。数值仿真结果表明,随着MMV矢量的增长,可识别的信源个数增加,稀疏阵列中物理传感器所占比例降低到30%,DOA估计误差也显著降低,并且在信噪比增大时,所提算法能够取得很好的收敛效果。

随着软件定义网络(Software Defined Network,SDN)技术的快速发展,互联网必将长期处于传统网络设备和SDN设备共存的混合SDN网络状态。混合SDN网络中的路由节能研究是一项关键的工作。文中提出了一种基于遗传算法的混合软件定义网络路由节能算法(Hybrid Software Defined Network Energy Efficient Routing Algorithm Based on Genetic Algorithm,EEHSDNGA)。文中致力于解决两方面的问题:1)如何在网络中有选择性地将传统网络设备升级为SDN设备;2)如何选择性地关闭链路。对于第一个问题,利用遗传算法进行解决。针对第二个问题,文中提出了链路关键度模型,即根据链路的重要性逐个关闭网络中的链路。实验结果表明,在Abilene网络中,EEHSDNGA的节能比率可达36%;在Geant网络中,EEHSDNGA的节能比率高达42.5%。EEHSDNGA的节能效果远远优于LF,HEATE和EEGAH的节能效果。

针对传统算法处理云环境中任务调度时出现的寻优性能差以及寻优方案不能满足用户多样性需求的问题,在考虑任务完成时间、完成成本以及资源闲置率3个优化目标的情况下,文中通过模拟启发式算法调度过程(初始化—适应度评估—任务调度—选择),建构了一种层次评估和动态选择模型(Hierarchy Evaluation and Dynamic Selection Model,HEDSM)。在初始化阶段,利用传统的表调度算法(Heterogeneous Earliest Finish Time,HEFT)对工作流任务模型进行预处理,保证任务具有一定的优先级。在适应度评估阶段,从云用户和云服务提供商两个层次构建不同的方案评估模型来同时满足两方面的需求。在任务调度阶段,设置两步调度:1)设置策略集,对任务进行预调度,保证生成的预调度方案继承各个策略的调度优势;2)设置任务迁移策略,对预调度方案进行处理,以此提升算法的寻优性能。在选择阶段,根据不同的评估模型在方案集中选择合适的调度方案。实验利用WorkflowSim仿真平台,采用科学工作流实例进行实验,将传统的Min-Min,Max-Min,FCFS调度策略以及目前存在的IMax-Min和LWRound_Robin调度策略作为对比算法,从用户多样性需求和策略改进比(Improve Ratio of Strategy,IROS)两个方面评估算法的调度性能。结果证明,所提算法在保证负载均衡的基础上,缩短了完成时间并降低了完成成本,更适用于复杂多变的云环境下的任务调度。

随着通信技术的进步,资源受限的移动终端设备已不能满足移动用户在数据处理方面急剧增加的需求。一方面,移动边缘计算可将移动设备上的任务迁移到边缘计算服务器进行处理,从而在一定程度上解决移动设备计算能力不足的问题;另一方面,在任务迁移过程中,如何保持较高的服务性能,同时降低移动终端的能耗,是研究者和移动用户所关心的主题。文中着力于研究以迁移时间收益为约束的数据迁移平均能耗最小化的问题。首先,利用迁移时间收益公式获得移动终端周期性侦测到的边缘计算服务器的迁移速率阈值;然后,构建具有时间收益约束的数据迁移平均能耗最小化的最优停止问题,证明其存在最优停止规则,并求出最优的数据迁移平均能耗;最后,移动终端综合考虑获取的迁移速率阈值以及最优数据迁移平均能耗来选择用于任务迁移的边缘计算服务器,从而实现具有能耗优化的任务迁移策略。在仿真实验中,以平均迁移数据总量、平均迁移时间以及平均数据迁移能耗等性能参数为指标,将所提优化策略与其他迁移策略进行对比。实验结果表明,相对于另外两种对比策略,具有能耗优化的任务迁移策略拥有较短的迁移时间以及较小的平均数据迁移能耗;此外,在有效数据迁移率参数指标上,所提策略也能够达到大约10%～40%的性能提升,获得了较好的迁移性能提升效果。

随着软件定义网络(Software Defined Network,SDN)的迅猛发展,单控制器部署的固有缺陷逐渐显露出来,多控制器部署已成为必然趋势。但由于控制器数量以及放置位置对网络性能具有决定性的影响,且在解决该问题时权衡因素多、计算复杂度高,严重阻碍了SDN在数据中心和广域网的应用。首先阐述了放置问题的本质和通用的求解步骤;其次基于网络模型详述了部署策略的核心构件,即优化目标、搜索算法;然后综合国内外的研究,将部署策略分为静态部署和动态部署两大类,并着重对比了典型策略的优缺点;最后展望未来的研究方向。

随着各种云应用的数据规模的增大,越来越多的云服务提供商开始关注跨数据中心的大数据块传输(bulk transfer)。跨数据中心的大数据块传输面临的主要挑战是:如何找到最佳的资源调度算法,在用户指定的时限内,用最少的传输资源将用户的数据传输到指定的地点。文中设计了一种有效的带传输时限(transfer deadlines)的、点到多点(Point-to-MultiPoint,P2MP)的跨数据中心数据传输调度算法MSTB(Multi-Source Tree-Based algorithm)。在多源机制和多播转发树的帮助下,MSTB表现得比现有的最优方法更好。仿真实验结果表明,MSTB可以在保证低传输完成时间和低计算复杂度的同时,增加最高达91%的传输请求接受数,增加最高达54%的有效吞吐量。

对梯度数据进行压缩,是一种减少多机间通信开销的有效方法,如MXNet系统中的2Bit方法等。但这类方法存在一个突出的问题,即过高的压缩比会导致精度及收敛速度下降,尤其是对规模较大的深度神经网络模型。针对上述问题,提出了一种新的4Bit梯度压缩策略。该方法采用4个比特位表示一个具体的梯度值(通常为32位的浮点数)。相对于2Bit,该方法能够对梯度值进行更细粒度的近似,从而提高训练结果的准确率和收敛性。进一步地,根据网络模型每一层梯度特性的不同,选择不同的近似阈值,使得压缩后的数值更合理,从而进一步加快模型的收敛速度并提高最终准确率;具体地,兼顾操作的方便性和分布的合理性,根据每层梯度特性的不同,设置3组不同的阈值,以满足不同层梯度差异化特性的需求。实验结果表明,使用多组阈值的4Bit梯度压缩策略虽然在加速方面略逊于2Bit方法,但其准确率更高,实用性更强,能够在保持模型更高精度的前提下减少分布式深度学习系统的通信开销,这对于在资源受限环境下实现性能更好的深度学习模型非常有意义。