计算机科学

第50卷第5期目录

计算机科学. 2023, 50 (5): 0-0.

摘要 ( 241 )

PDF(250KB) ( 475 )

相关文章 | 多维度评价

基于可解释性人工智能的软件工程技术方法综述

邢颖

计算机科学. 2023, 50 (5): 3-11. doi:10.11896/jsjkx.221100159

摘要 ( 445 )

PDF(1672KB) ( 3551 )

参考文献 | 相关文章 | 多维度评价

在信息处理与决策方面,人工智能(AI)方法相比传统方法表现出了优越的性能。但在将AI模型投入生产时,其输出结果并不能保证完全准确,因此AI技术的“不可信”逐渐成为AI大规模落地的一大阻碍。目前人工智能被逐步应用到软件工程中,其过度依赖历史数据和决策不透明等弊端愈发明显,因此对决策结果做出合理的解释至关重要。文中对可解释性人工智能的基本概念、可解释模型的评估进行了详细阐述,探讨了软件工程与可解释人工智能结合的可行性;同时调研了相关文献,对软件工程中的恶意软件检测、高风险组件检测、软件负载分配、二进制代码相似性分析这4个人工智能的典型应用方向做出分析,讨论如何通过可解释AI揭示系统输出的正确程度,进而提高系统决策的可信度;最后展望未来软件工程与可解释人工智能相结合的研究方向。

基于注意力机制的可解释点击率预估模型研究

杨斌, 梁婧, 周佳薇, 赵梦赐

计算机科学. 2023, 50 (5): 12-20. doi:10.11896/jsjkx.221000032

摘要 ( 433 )

PDF(2857KB) ( 3422 )

参考文献 | 相关文章 | 多维度评价

在推荐系统研发中,点击率(Click-Through Rate,CTR)预估是非常重要的工作,点击率预估精度的提升直接影响到整个推荐系统的收益,对其性能和解释性的研究有助于理解系统决策的机理,同时还能帮助优化需求和系统设计。当前点击率预估深度模型多基于线性特征交互和深度特征提取进行设计。由于深度模型的黑盒特点,该类模型在解释性方面存在局限性,并且在先前的研究中,对点击率预估模型的解释性研究非常少。因此,文中基于多头自注意力机制,对该类模型的解释性进行研究,通过多头注意力机制对特征嵌入、线性特征交互和深度部分进行增强和解释,在深度部分设计了两种模型,即注意力增强的深度神经网络和注意力叠加的深度模型,通过计算每个模块的注意力得分对其进行解释。所提方法在多个真实数据集上进行了大量实验,结果表明所提方法能够有效提升模型效果,并且模型自身带有一定的解释性。

软件缺陷预测模型可解释性对比

李汇来, 杨斌, 于秀丽, 唐晓梅

计算机科学. 2023, 50 (5): 21-30. doi:10.11896/jsjkx.221000028

摘要 ( 269 )

PDF(2501KB) ( 3256 )

参考文献 | 相关文章 | 多维度评价

软件缺陷预测已经成为软件测试中的重要研究方向,缺陷预测的全面与否直接影响着测试效率和程序运行。但现有的缺陷预测是根据历史数据进行推断,大多不能对预测过程给出合理的解释,这种黑盒的预测过程仅仅展现输出结果,使得人们难以得知测试模型内部结构对输出的影响。为解决这一问题,需挑选软件度量方法和部分典型深度学习模型,对其输入、输出及结构进行简要对比,从数据差异程度和模型对代码的处理过程两个角度进行分析,对它们的异同给出解释。实验表明,采用深度学习的方法进行缺陷预测比传统软件度量方法更加有效,这主要是由它们对原始数据处理过程不同造成的;采用卷积神经网络和长短期记忆神经网络做缺陷预测时,数据差异主要由对代码信息理解的完整程度不同造成的。综上可知,要提高对软件缺陷的预测能力,模型的计算应该对代码的语义、逻辑和上下文联系进行全面的介入,避免有用信息被遗漏。

基于BASFPA-BP的可靠性预测模型研究

李红辉, 陈博, 鲁姝艺, 张骏温

计算机科学. 2023, 50 (5): 31-37. doi:10.11896/jsjkx.220900283

摘要 ( 228 )

PDF(2178KB) ( 3032 )

参考文献 | 相关文章 | 多维度评价

软件可靠性预测以软件可靠性预测模型为基础,对软件的可靠性以及与其直接相关的度量进行分析、评价和预测,利用软件运行中所收集的失效数据对未来的软件可靠性进行预测,成为了评估软件失效行为和保障软件可靠程度的重要手段。BP神经网络结构简单、参数少、易实现,在软件可靠性预测领域已经得到了广泛应用。然而基于传统BP神经网络搭建的软件可靠性预测模型的预测精度无法达到预期目标,因此提出了基于BASFPA-BP的软件可靠性预测模型。该模型利用软件失效数据,在BP神经网络训练过程中利用BASFPA算法优化网络权值、阈值,从而提高模型的预测精度。选用3组公开的软件失效数据,将实际值与预测值的均方误差作为预测结果的衡量标准,同时将BASFPA-BP与FPA-BP,BP,Elman这3种模型进行对比研究。实验结果表明,基于BASFPA-BP的软件可靠性预测模型在同类型模型中实现了较高的预测精度。

基于BERT和弱行为轮廓的可解释性事件日志修复方法

李炳辉, 方欢, 梅振辉

计算机科学. 2023, 50 (5): 38-51. doi:10.11896/jsjkx.220900030

摘要 ( 242 )

PDF(4298KB) ( 3036 )

参考文献 | 相关文章 | 多维度评价

由异常值和缺失值导致的低质量事件日志在实际的业务流程中通常不可避免,低质量的事件日志会降低过程挖掘相关算法的性能,从而干扰决策的正确实施。在系统参考模型未知的条件下,现有方法在进行日志异常检测与修复工作中,存在需要人为设定阈值、不知预测模型学习何种行为约束以及修复结果可解释性较差的问题。采用遮掩策略的预训练语言模型BERT可以通过上下文信息自监督地学习文本中的通用语义,受此启发,提出了模型BERT4Log和弱行为轮廓理论,并结合多层多头注意力机制进行低质量事件日志的可解释修复。所提修复方法不需要预先设定阈值,仅需要进行一次自监督训练,同时该方法利用弱行为轮廓理论量化行为上的日志修复程度,并结合多层多头注意力机制实现对具体预测结果的详细解释。最后,在一组公开数据集上对方法性能进行评估,并与目前性能最优的研究进行对比分析,实验结果表明BERT4Log的修复性能整体优于对比方法,可以学习弱行为轮廓并实现修复结果的详细解释。

深度学习可解释性综述

陈冲, 陈杰, 张慧, 蔡磊, 薛亚茹

计算机科学. 2023, 50 (5): 52-63. doi:10.11896/jsjkx.221000044

摘要 ( 307 )

PDF(1759KB) ( 3379 )

参考文献 | 相关文章 | 多维度评价

随着数据量呈爆发式增长,深度学习理论与技术取得突破性进展,深度学习模型在众多分类与预测任务(图像、文本、语音和视频数据等)中表现出色,促进了深度学习的规模化与产业化应用。然而,深度学习模型的高度非线性导致其内部逻辑不明晰,并常常被视为“黑箱”模型,这也限制了其在关键领域(如医疗、金融和自动驾驶等)的应用。因此,研究深度学习的可解释性是非常必要的。首先对深度学习的现状进行简要概述,阐述深度学习可解释性的定义及必要性;其次对深度学习可解释性的研究现状进行分析,从内在可解释模型、基于归因的解释和基于非归因的解释3个角度对解释方法进行概述;然后介绍深度学习可解释性的定性和定量评估指标;最后讨论深度学习可解释性的应用以及未来发展方向。

一种基于神经网络的代码嵌入方法

孙雪凯, 蒋烈辉

计算机科学. 2023, 50 (5): 64-71. doi:10.11896/jsjkx.220100094

摘要 ( 357 )

PDF(3927KB) ( 3060 )

参考文献 | 相关文章 | 多维度评价

对代码进行分析研究具有很多的应用场景,例如代码抄袭检测、软件漏洞搜索等。随着人工智能的发展,神经网络技术被广泛应用于代码分析和研究。然而,现有的方法要么简单地将代码视为普通的自然语言处理,要么使用太过复杂的规则对代码进行采样,前者的处理方式容易造成代码关键信息的丢失,而后者会造成算法过于复杂,模型的训练需要花费较长的时间。Alon等提出了一种名为Code2vec的算法,该算法采用了一种简单且有效的代码表示方法,相比之前的代码分析方法有着显著的优势,但Code2vec算法仍存在一些局限性。因此,在其基础上提出了一种基于神经网络的代码嵌入方法,该方法的主要思想是将代码函数表示为代码的嵌入向量。首先将一个代码函数分解为一系列抽象语法树路径,然后通过神经网络去学习如何表示每一条路径,最后将所有路径聚合成一个嵌入向量来表示当前的代码函数。文中实现了一个基于该方法的原型系统,实验结果表明,相比Code2vec,所提算法的结构更加简单、训练速度更快。

基于灰狼算术混合优化算法的类集成测试序列生成方法

张文宁, 周清雷, 焦重阳, 徐婷

计算机科学. 2023, 50 (5): 72-81. doi:10.11896/jsjkx.220200110

摘要 ( 300 )

PDF(2591KB) ( 3054 )

参考文献 | 相关文章 | 多维度评价

集成测试是软件测试的重要环节,如何决定类的集成顺序是面向对象集成测试难解决的问题之一。已有研究成果证实了基于搜索的类集成测试序列生成方法的有效性,但存在收敛速度慢、寻优精度低的问题。灰狼优化算法(Grey Wolf Optimizer,GWO) 中狼群易聚集在相近的区域,易早熟收敛。算术优化算法(Arithmetic Optimization Algorithm,AOA)是新近提出的元启发式优化算法,具有良好的随机性及分散性。为此,提出了一种灰狼优化算法和算术优化算法的混合优化算法(GWO-AOA)。GWO-AOA保留GWO的位置更新策略,选用群体领导层的中心个体替换AOA的引导个体,以平衡算法的全局探索和局部开发能力,进一步引入随机游动的精英变异机制,提高算法整体的寻优精度。实验结果表明,GWO-AOA相比同类方法能用较短的时间生成测试桩代价较低的类集成测试序列,收敛速度较快。

知识驱动的机械设备故障诊断

董家祥, 翟纪宇, 马昕, 沈磊贤, 张力

计算机科学. 2023, 50 (5): 82-92. doi:10.11896/jsjkx.221100160

摘要 ( 349 )

PDF(4275KB) ( 3132 )

参考文献 | 相关文章 | 多维度评价

随着社会经济的快速发展,现代工业逐渐呈现出研究对象复杂化、应用手段信息化和生产方式多元化的发展趋势。机械故障诊断作为现代工业重要的研究领域之一,由于故障机理研究不足和可参考知识匮乏等问题,仍然存在一系列技术瓶颈。为应对上述问题,文中提出了知识驱动的机械设备故障诊断方案,主要包括知识构建和诊断流程两个部分。在知识构建方面,提出了领域知识图谱构建方法;在诊断流程方面,设计了一个通用的机械设备故障诊断流程,该流程包括故障问诊、故障定位、起因定位和故障维修指导4个步骤。目前,该方案已经在国内某大型挖掘机维修商实际落地应用,并对其进行了有效性验证,实验结果表明该方案提高了挖掘机故障诊断领域的知识化程度和智能化水平,并表现出了较高的准确性和实用性,后续将在工业界持续推广使用。

基于深度学习的智能设备故障诊断研究综述

黄迅迪, 庞雄文

计算机科学. 2023, 50 (5): 93-102. doi:10.11896/jsjkx.220500197

摘要 ( 283 )

PDF(3901KB) ( 3230 )

参考文献 | 相关文章 | 多维度评价

智能设备故障诊断技术(Intelligent Fault Diagnosis,IFD)将深度学习理论应用于设备故障诊断,能自动识别设备的健康状态和故障类型,在设备故障诊断领域引起了广泛关注。智能设备故障诊断通过构建端到端的AI模型和算法将设备监测数据与机器健康状态关联以实现设备故障诊断,但设备故障诊断的模型和算法较多且相互之间并不通用,采用与监测数据不相符的模型进行故障诊断会导致诊断准确率大幅度下滑。为解决这一问题,在全面调查设备故障诊断相关文献的基础上,首先简述深度设备故障诊断的模型框架,再根据具体应用场景和设备监测数据类型对模型算法进行分类介绍、列表对比及总结,最后针对存在的问题分析了未来的发展方向。本综述有望为智能设备故障诊断的研究提供有益的参考。

基于深度学习的异质信息网络表示学习方法综述

王慧妍, 于明鹤, 于戈

计算机科学. 2023, 50 (5): 103-114. doi:10.11896/jsjkx.220800112

摘要 ( 244 )

PDF(4570KB) ( 436 )

参考文献 | 相关文章 | 多维度评价

万物依存而在,现实世界中的实体之间存在着各种不同的关联关系,如人与人之间的关系可以构成社交网络,学者通过共同发表论文、引用文献构成引文网络。同质网络将节点和边抽象为单一类型,但是这会造成大量的信息丢失。为了更大程度地保证信息的完整性和丰富性,有研究者提出了异质信息网络的概念,即包含多种类型节点和边的网络模式。将异质信息网络中的拓扑结构和语义信息嵌入到低维向量空间中,下游任务能够利用异质信息网络中的丰富信息进行机器学习或数据挖掘任务。文中总结了近年来基于深度学习模型的异质信息网络表示学习方法的研究成果,同时聚焦两类关键问题——异质信息网络语义自动提取和动态异质信息网络的表示学习方法,列举了异质信息网络表示学习新的应用场景,并展望了异质信息网络的未来发展趋势。

数据空间:一种新的数据组织和管理模式

范淑焕, 侯孟书

计算机科学. 2023, 50 (5): 115-127. doi:10.11896/jsjkx.220700042

摘要 ( 539 )

PDF(3055KB) ( 622 )

参考文献 | 相关文章 | 多维度评价

随着数字经济的快速发展,如何实现非可信环境下的多方数据融合,为跨组织场景的数据共享、数据分析以及数据服务寻找新途径,成为了社会数字化产业升级中面临的新问题。数据空间为解决这些问题带来了新思路。文中回顾了数据的组织和管理发展历程,指出在大数据背景下数据空间的系统研究具有急迫性和重要性,分析了数据空间的内涵并进行了形式化描述,提出了基于数据空间的大数据平台架构,总结描述了3类经典的应用场景。围绕数据空间的构建工作,从数据建模、动态演变、数据查询处理、安全与隐私拓展方面分析了当前的关联研究问题和主要技术方法,简述了数据空间在不同领域的实现和应用情况。最后从多模态数据融合、高效的查询处理、数据的安全共享及基于数据空间的大数据平台构建分析方面展望了研究前景和挑战。

基于深度跨模态信息融合网络的股票走势预测

程海阳, 张建新, 孙启森, 张强, 魏小鹏

计算机科学. 2023, 50 (5): 128-136. doi:10.11896/jsjkx.220400089

摘要 ( 345 )

PDF(2113KB) ( 385 )

参考文献 | 相关文章 | 多维度评价

股票走势预测是经典且具有挑战性的任务,可帮助交易者做出获得更大收益的交易决策。近年来,基于深度学习的股票走势预测方法的性能得到明显提升,但现有方法大多仅依托于股票价格的历史数据来完成走势预测,无法捕捉价格指标之外的市场动态规律,在一定程度上限制了方法的性能。为此,将社交媒体文本与股票历史价格信息相结合,提出了一种基于深度跨模态信息融合网络(DCIFNet)的股票走势预测新方法。DCIFNet首先采用时间卷积操作对股票价格和推特文本进行编码,使得每个元素对其邻域元素都有足够的了解;然后,将结果输入到基于transformer的跨模态融合结构中,以更有效地融合股票价格和推特文本中的重要信息;最后,引入多图卷积注意力网络从不同角度描述不同股票之间的相互关系,能够更有效地捕获关联股票间的行业、维基和相关关系,从而提升股票走势预测的精度。在9个不同行业的高频交易数据集上实施走势预测和模拟交易实验。消融实验及所提方法与用于股票预测的多管齐下的注意力网络(MAN-SF)方法的比较结果验证了DCIFNet方法的有效性,准确率达到了 0.6309,明显优于领域内代表性方法。

代价敏感的多粒度邻域粗糙模糊集的近似表示

杨洁, 匡俊成, 王国胤, 刘群

计算机科学. 2023, 50 (5): 137-145. doi:10.11896/jsjkx.220500268

摘要 ( 185 )

PDF(6193KB) ( 375 )

参考文献 | 相关文章 | 多维度评价

多粒度邻域粗糙集是邻域粗糙集理论的一种新型数据处理模式,其目标概念分别由乐观和悲观的上、下近似边界描述。但当前的多粒度邻域粗糙集既缺乏利用已有的信息粒近似描述目标概念的方法,又无法处理目标概念为模糊的情形。而张清华教授提出的粗糙集近似理论提供了一种利用已有信息粒近似描述知识的方法,为构建多粒度邻域粗糙模糊集的近似精确集提供了新思路。文中首先针对模糊目标概念,将粗糙集近似理论应用到邻域粗糙集领域,提出了代价敏感的邻域粗糙模糊集的近似表示模型;然后进一步从多粒度视角,构建出一种代价敏感的邻域粗糙模糊集的多粒度近似表示模型,并分析了其相关性质;最后,通过实验仿真,验证了当多粒度代价敏感近似及其上、下近似方法分别去近似刻画模糊目标概念时,多粒度代价敏感近似方法产生的误分类代价最小。

伪异常选择驱动学习的视频异常检测

赵松, 傅豪, 王洪星

计算机科学. 2023, 50 (5): 146-154. doi:10.11896/jsjkx.220400227

摘要 ( 298 )

PDF(2926KB) ( 392 )

参考文献 | 相关文章 | 多维度评价

无监督视频异常检测方法通常使用正常的监控视频数据通过帧重构/帧预测方法来训练视频异常检测模型。然而,正常视频中往往包含大量的相似画面和背景帧,数据集冗余的问题尤为明显,因此不能高效地进行异常检测模型训练。针对该问题,提出了伪异常选择驱动学习的视频异常检测方法,从原始视频训练数据中迭代选取部分异常分数高的正常视频帧(伪异常帧)来构建新的训练池,用于学习和优化视频异常检测模型。在检测模型方面,设计了基于后继帧预测的双路U-Net骨干网络,以不同采样率的视频段分别作为两个支路的输入,从而从多个粒度上更好地提取和利用视频的时空特征。为了加强典型训练数据对帧预测任务和异常检测的影响,双路U-Net中设计了多层的记忆学习模块。在常用视频异常检测数据集上进行实验,验证了所提方法在检测精度和训练效率上的有效性。

基于Swin Transformer和三维残差多层融合网络的高光谱图像分类

王先旺, 周浩, 张明慧, 朱尤伟

计算机科学. 2023, 50 (5): 155-160. doi:10.11896/jsjkx.220400035

摘要 ( 244 )

PDF(4328KB) ( 400 )

参考文献 | 相关文章 | 多维度评价

卷积神经网络(CNNs)具有出色的局部上下文建模能力,被广泛用于高光谱图像分类中,但由于其固有网络主干的局限性,CNNs未能很好地挖掘和表示光谱特征的序列属性。为了解决此问题,提出了一种基于Swin Transformer和三维残差多层融合网络的新型网络(ReSTrans)用于高光谱图像分类。在ReSTrans网络中,为了尽可能地挖掘高光谱图像的深层特征,采用三维残差多层融合网络来提取空谱特征,然后由基于自注意机制的Swin Transformer网络模块近一步捕获连续光谱间的关系,最后由多层感知机根据空谱联合特征完成最终的分类任务。为了验证ReSTrans网络模型的有效性,改进的模型在IP,UP和KSC 3个高光谱数据集上进行实验验证,分类精度分别达到了98.65%,99.64%,99.78%。与SST方法相比,该网络模型的分类性能分别平均提高了3.55%,0.68%,1.87%。实验结果表明该模型具有很好的泛化能力,可以提取更深层的、判别性的特征。

基于MLUM-Net的高分遥感影像土地利用多分类方法

胡绍凯, 赫晓慧, 田智慧

计算机科学. 2023, 50 (5): 161-169. doi:10.11896/jsjkx.220300110

摘要 ( 403 )

PDF(5205KB) ( 335 )

参考文献 | 相关文章 | 多维度评价

针对高分辨率遥感影像土地利用多分类结果中地块结构不完整、边界质量差的问题,提出了基于MLUM-Net模型的遥感影像土地利用多分类方法。该方法利用多尺度空洞卷积和通道注意力机制构造MDSPA编码器,提高了网络多尺度特征提取能力与地块位置定位的准确性,并通过空间注意力机制自适应增强了多尺度特征表达;为消除上采样语义损失和减少分类结果噪声,设计了混合池化上采样优化模块,用于优化分类结果并消除网络分类误差;根据土地利用多分类数据集类别占比不均衡的特点和地块结构的相似性指数设计混合损失函数,消除数据类别占比产生的影响,提高地块结构完整性和精细化分类边界。在多个数据集上进行了实验验证,总体精度和kappa指标均有明显提高,其分类结果结构完整且边缘划分准确,在土地利用多分类领域具有较好的实用价值。

残差学习与循环注意力下的SSD目标检测算法

贾天豪, 彭力

计算机科学. 2023, 50 (5): 170-176. doi:10.11896/jsjkx.220400085

摘要 ( 297 )

PDF(2244KB) ( 313 )

参考文献 | 相关文章 | 多维度评价

针对Single-Shot Detection的特征金字塔中生成的浅层特征语义信息不足,导致小目标检测性能较差的问题,提出了一种基于残差学习与循环注意力的SSD目标检测算法。首先主干网络采用学习能力更强的Resnet101来提取有效的特征信息;然后通过构建轻量级的单向特征融合块对原特征金字塔中的深特征层与浅特征层特征进行融合,并生成新的特征金字塔,进而丰富用于预测的有效特征层的语义信息;最后提出一种新的空间池化策略,并与残差网络中的跳跃连接相结合构成循环注意力模块,从而引入全局的上下文信息,为局部特征建立全局信息关联。为了解决难易样本数量不平衡的问题,将Focalloss作为回归损失函数。实验结果表明,在PASCAL VOC公共数据集上,该算法的平均检测精度(mAP)为79.7%,较SSD 提高了2.5%。在MS COCO公共数据集上的mAP为30.0%,较SSD 提高了4.9 %。

基于深度学习的视觉问答研究综述

李祥, 范志广, 李学相, 张卫星, 杨聪, 曹仰杰

计算机科学. 2023, 50 (5): 177-188. doi:10.11896/jsjkx.220500124

摘要 ( 313 )

PDF(2834KB) ( 462 )

参考文献 | 相关文章 | 多维度评价

视觉问答是计算机视觉和自然语言处理的交叉领域。在视觉问答的任务中,机器首先需要对图像、文本这两种模态数据进行编码,进而学习这两种模态之间的映射,实现图像特征和文本特征的融合,最后给出答案。视觉问答任务考验模型对图像的理解能力以及对答案的推理能力。视觉问答是实现跨模态人机交互的重要途径,具有广阔的应用前景。最近相继涌现出了众多新兴技术,如基于场景推理的方法、基于对比学习的方法和基于三维点云的方法。但是,视觉问答模型普遍存在推理能力不足、缺乏可解释性等问题,值得进一步地探索与研究。文中对视觉问答领域的相关研究和新颖方法进行了深入的调研和总结。首先介绍了视觉问答的背景;其次分析了视觉问答的研究现状并对相关算法的和数据集进行了归纳总结;最后根据当前模型存在的问题对视觉问答的未来研究方向进行了展望。

文档级关系抽取技术研究综述

祝涛杰, 卢记仓, 周刚, 丁肖摇, 王凌, 朱秀宝

计算机科学. 2023, 50 (5): 189-200. doi:10.11896/jsjkx.220400252

摘要 ( 651 )

PDF(2583KB) ( 315 )

参考文献 | 相关文章 | 多维度评价

关系抽取是信息抽取研究的重要方向,已逐步从句子级扩展到了文档级。与句子相比,文档通常蕴含更多的关系事实,可为知识库构建、信息检索和语义分析等提供更多的信息支持。然而,文档级关系抽取复杂度更高,难度更大,目前缺乏较为系统全面的梳理和总结。为更好地促进文档级关系抽取的深入研究与发展,文中对已有技术和方法进行了综合深入分析,从数据预处理方式和核心算法角度,将已有文档级关系抽取研究大致分为基于树、基于序列和基于图3种类别;在此基础上,分析描述了各类研究中的部分典型方法、最新进展以及存在的不足;同时,介绍了现有研究中部分常用数据集和性能评价指标,并列出了已有部分典型方法的具体性能;最后,对现有文档级关系抽取研究存在的问题进行了分析和总结,指出了未来可能的发展趋势及可进一步深入关注的研究方向。

深度强化学习中的知识迁移方法研究综述

张启阳, 陈希亮, 曹雷, 赖俊, 盛蕾

计算机科学. 2023, 50 (5): 201-216. doi:10.11896/jsjkx.220400235

摘要 ( 540 )

PDF(3352KB) ( 622 )

参考文献 | 相关文章 | 多维度评价

深度强化学习是人工智能研究中的热点问题,随着研究的深入,其中的短板也逐渐暴露出来,如数据利用率低、泛化能力弱、探索困难、缺乏推理和表征能力等,这些问题极大地制约着深度强化学习方法在现实问题中的应用。知识迁移是解决此问题的非常有效的方法,文中从深度强化学习的视角探讨了如何使用知识迁移加速智能体训练和跨领域迁移过程,对深度强化学习中知识的存在形式及作用方式进行了分析,并按照强化学习的基本构成要素对深度强化学习中的知识迁移方法进行了分类总结,最后总结了目前深度强化学习中的知识迁移在算法、理论和应用方面存在的问题和发展方向。

智能化雷达故障预测及检测技术综述

翟玉婷, 程占昕, 房少军

计算机科学. 2023, 50 (5): 217-229. doi:10.11896/jsjkx.220400096

摘要 ( 265 )

PDF(2137KB) ( 393 )

参考文献 | 相关文章 | 多维度评价

雷达故障预测和故障检测技术是雷达装备维护从传统化定期检修向智能化视情维修转变的关键技术。为保障雷达作战效能的发挥,需及时对雷达故障进行预测、检测并实时告警。随着微波测量和人工智能技术的日趋成熟,智能化雷达故障预测及检测技术也不断发展。文中详细阐述了当前故障预测与健康管理以及故障检测技术的国内外研究现状,分析了现有智能化雷达故障预测和检测技术的优缺点,梳理了该技术在雷达维修保障领域的研究进展,提出了雷达故障预测和检测过程中可能存在的问题和限制条件。针对实际问题和限制条件,对未来智能化雷达故障预测和检测技术的研究方向进行了展望,为智能化故障预测及故障检测技术在雷达维修保障领域的深入研究提供参考。

基于情感知识的双通道图卷积网络的方面级情感分析

阳影, 张凡, 李天瑞

计算机科学. 2023, 50 (5): 230-237. doi:10.11896/jsjkx.220300008

摘要 ( 473 )

PDF(2066KB) ( 328 )

参考文献 | 相关文章 | 多维度评价

方面级情感分析是一项细粒度情感分析任务,其目标是对句子中给定的方面词进行情感极性分类。当前的情感分类模型大多在依存句法树上构建图神经网络,从依存句法树上学习方面词与上下文之间的信息,缺乏对句子中情感知识的挖掘。针对这个问题,文中提出了一种基于情感知识的双通道图卷积网络的情感分类模型(Dual-channel Graph Convolutional Network with Sentiment Knowledge,SKDGCN)。该模型由情感增强的依存图卷积网络(Sentiment-enhanced Dependency Graph Convolutional Network,SDGCN)和注意力图卷积网络(Attention Graph Convolutional Network,AGCN)组成,两个图卷积网络分别学习方面词与上下文词的句法依赖关系和语义关系。具体地,SDGCN在句法依存树上融合SenticNet中的情感知识以增强句子的依赖关系,使得模型既考虑了上下文词与方面词的句法关系,也考虑了上下文中意见词与方面词的情感信息;AGCN使用注意力机制学习方面词与句子中上下文的语义相关性;最后使两个图卷积网络交互学习各自的信息进行情感分类。实验结果表明,该模型在多个公开数据集上表现优异,并通过消融实验验证了各个模块的有效性。

基于多事件语义增强的情感分析

张雪, 赵晖

计算机科学. 2023, 50 (5): 238-247. doi:10.11896/jsjkx.220400256

摘要 ( 330 )

PDF(2803KB) ( 338 )

参考文献 | 相关文章 | 多维度评价

隐式情感分析是检测不包含明显情感词的句子的情感。文中集中于以事件为中心的情感分析,该任务是通过句子中描述的事件推断其情感极性。在以事件为中心的情感分析中,现有方法要么将文本中名词短语看作事件,要么采用复杂的模型建模事件,未能充分建模事件信息,并且没有考虑到包含多个事件的情况。为解决以上问题,提出将事件表示为事件三元组〈主语,谓语,宾语〉的形式,基于这种事件表示,进一步提出基于事件增强语义的情感分析模型MEA来检测文本的情感。文中利用句法信息捕获事件三元组的关系,根据每个事件对句子贡献程度的不同,采用注意力机制建模事件之间的关系。与此同时,采用双向长短时记忆网络建模句子的上下文信息,并采用多级性正交注意力机制捕获不同极性下注意力权重的差异,这可以作为显著的判别特征。最后,依据事件特征和句子特征的重要程度为其分配不同的权重比例,并将它们融合得到最终的句子表示。此外,文中还提出一个用于事件增强情感分析的数据集MEDS,其中每条句子都标有事件三元组表示和情感极性标签。研究表明,在自建的数据集中,所提模型优于现有的基线模型。

基于多级多尺度特征提取的CNN-BiLSTM模型的中文情感分析

汪林, 蒙祖强, 杨丽娜

计算机科学. 2023, 50 (5): 248-254. doi:10.11896/jsjkx.220400069

摘要 ( 296 )

PDF(2278KB) ( 476 )

参考文献 | 相关文章 | 多维度评价

情感分析作为自然语言处理(NLP)的一个研究子领域,在舆情监测方面起着非常重要的作用。在中文情感分析任务中,已有方法仅从单极、单尺度来考虑情感特征,无法充分挖掘和利用情感特征信息,模型性能不理想。针对这一问题,提出了一种多级多尺度特征提取的CNN-BiLSTM模型。该模型首先利用预训练好的中文词向量模型并结合嵌入层微调来获取词级特征;然后利用多尺度短语级特征表征模块和句子级特征表征模块来分别获取短语级和句子级特征,在多尺度短语级特征表征模块中,使用具有不同卷积核尺寸的卷积网络来获取不同尺度的短语级特征;最后使用多级特征融合方法将词级特征、不同尺度的短语级特征以及句子级特征进行融合形成多级联合特征,与单极、单尺度特征相比,多级联合特征具有更多的情感信息。在实验中,使用Accuracy,Precision,Recall,F1这4个评估指标对模型性能进行评估,并与包括支持向量机(SVM)在内的8种方法进行比较。实验结果表明,所提方法在4个评估指标中的得分均优于8种对比方法,证明了所提模型在多级和多尺度特征提取上的优势。

基于多粒度实体异构图的篇章级事件抽取方法

张虎, 张广军

计算机科学. 2023, 50 (5): 255-261. doi:10.11896/jsjkx.220300154

摘要 ( 218 )

PDF(3981KB) ( 274 )

参考文献 | 相关文章 | 多维度评价

篇章级事件抽取是一项面向多个句子长文本的事件抽取任务,现有的篇章级事件抽取研究一般将事件抽取分为候选实体抽取、事件检测和论元识别3个子任务,且通常采用联合学习的方式进行训练。然而,已有篇章级事件抽取方法大都采用逐句的方式抽取候选实体,未考虑跨句的上下文信息,明显降低了实体抽取和论元识别的精度,影响了最终的事件抽取效果。基于此,文中提出了一种基于多粒度实体异构图的篇章级事件抽取方法。该方法分别采用Transformer和RoBerta两个独立的编码器进行句子级和段落级实体抽取;同时,提出了多粒度实体选择策略,从句子实体集和段落实体集中选择更可能是论元的实体,并进一步构造融入多粒度实体的异构图;最后,利用图卷积网络获得具有篇章级上下文感知的实体和句子表示,进行事件类型和事件论元的多标签分类,实现事件检测和论元识别。在ChFinAnn和Duee-fin数据集上进行了实验,结果表明,所提方法比以往的方法在F1值方面分别提高了约1.3%和3.9%,证明了该方法的有效性。

结合门控机制的卷积网络实体缺失检测方法

叶瀚, 李欣, 孙海春

计算机科学. 2023, 50 (5): 262-269. doi:10.11896/jsjkx.220400126

摘要 ( 208 )

PDF(2491KB) ( 259 )

参考文献 | 相关文章 | 多维度评价

实体信息充足与否直接影响着有赖于文本实体信息的相关应用,而常规的实体识别模型仅能对已存在的实体进行识别。文中提出以序列标注任务定义实体缺失检测任务,并提出了相应的3种实体缺失检测模型的训练数据构造方法。根据实体缺失任务的识别特点,提出了融合门控机制的卷积神经网络与预训练语言模型相结合的实体缺失检测方法。通过实验发现,基于预训练语言模型与门控卷积网络的模型对人名类、组织类、地点类实体缺失识别的F1最高分别达80.45%,83.02%和86.75%,显著高于基于LSTM的实体识别模型。通过字频统计发现,运用不同标注方法的数据集所训练的模型的准确率与被标注字符字频存在相关性。

基于多层感知机和语义矩阵的答案选择模型

罗亮, 程春玲, 刘倩, 归耀城

计算机科学. 2023, 50 (5): 270-276. doi:10.11896/jsjkx.220400275

摘要 ( 142 )

PDF(1790KB) ( 262 )

参考文献 | 相关文章 | 多维度评价

答案选择是问答系统领域的关键子任务,其性能表现支撑着问答系统的发展。基于参数冻结的BERT模型生成的动态词向量存在句级语义特征匮乏、问答对词级交互关系缺失等问题。多层感知机具有多种优势,不仅能够实现深度特征挖掘,且计算成本较低。在动态文本向量的基础上,文中提出了一种基于多层感知机和语义矩阵的答案选择模型,多层感知机主要实现文本向量句级语义维度重建,而通过不同的计算方法生成语义矩阵能够挖掘不同的文本特征信息。多层感知机与基于线性模型生成的语义理解矩阵相结合,实现一个语义理解模块,旨在分别挖掘问题句和答案句的句级语义特征;多层感知机与基于双向注意力计算方法生成的语义交互矩阵相结合,实现一个语义交互模块,旨在构建问答对之间的词级交互关系。实验结果表明,所提模型在WikiQA数据集上MAP和MRR分别为0.789和0.806,相比基线模型,该模型在性能上有一致的提升,在SelQA数据集上MAP和MRR分别为0.903和0.911,也具有较好的性能表现。

二进制哈里斯鹰优化及其特征选择算法

孙林, 李梦梦, 徐久成

计算机科学. 2023, 50 (5): 277-291. doi:10.11896/jsjkx.220300269

摘要 ( 304 )

PDF(2802KB) ( 409 )

参考文献 | 相关文章 | 多维度评价

针对哈里斯鹰优化(Harris Hawk Optimization,HHO)算法在探索阶段仅使用随机策略初始种群,致使种群多样性下降,控制开发和探索过程中的线性变化的逃逸能量,在迭代后期易陷入局部最优等问题,提出了二进制HHO及其元启发式特征选择算法。首先,在探索阶段引入Sine映射函数,初始化哈里斯鹰种群位置,运用自适应调整算子来改变HHO搜索范围,并更新HHO的种群位置。其次,利用对数惯性权重改进逃逸能量的更新公式,将迭代次数引入跳跃距离中,使用步长调整参数调整HHO的搜索距离,进而平衡探索与开发能力;在此基础上设计了改进的HHO算法,避免HHO算法陷入局部最优。然后,引入S型和V型传递函数,更新改进的HHO算法的二进制位置和种群位置,设计了两种二进制的改进HHO算法。最后,使用适应度函数评估特征子集,并将二进制改进HHO算法与适应度函数相结合,提出了两种基于二进制的改进HHO元启发式特征选择算法。在10个基准函数和17个公共数据集上的实验结果表明,4种优化策略在10个基准函数上有效提升了HHO算法的优化性能,改进的HHO算法明显优于对比的其他优化算法;在12个UCI数据集和5个高维基因数据集上,将所提算法与基于BHHO的特征选择算法和其他特征选择算法进行比较,实验结果显示,基于V型改进的HHO特征选择算法具备良好的寻优能力与分类性能。

基于双精英进化樽海鞘群算法优化ELM的焦炭价格预测

朱旭辉, 佘孝敏, 倪志伟, 夏平凡, 张琛

计算机科学. 2023, 50 (5): 292-301. doi:10.11896/jsjkx.220300259

摘要 ( 378 )

PDF(2811KB) ( 258 )

参考文献 | 相关文章 | 多维度评价

焦炭是焦化企业生产的重要工业原料之一,准确地预测其未来价格趋势对焦化企业制定排产计划具有重要意义。极限学习机(ELM)泛化能力强,计算速度快,适合作为焦炭价格预测的模型,但ELM的预测性能受模型关键参数影响较大,故需对其参数进行优化。基于此,文中提出了基于双精英进化樽海鞘群算法的ELM焦炭价格预测方法。首先,采用Logistic混沌映射、改进的收敛因子、自适应惯性权重和双精英进化机制来改进樽海鞘群算法,提出了双精英进化樽海鞘群算法(MDSSA),提高算法的搜索能力;其次,运用MDSSA优化ELM的连接权值与阈值,找到ELM的最优参数组合,构建MDSSA-ELM焦炭价格预测模型;最后,在8个基准测试函数上测试MDSSA的收敛性能,在实际焦炭价格数据集上对MDSSA-ELM模型的预测性能进行实验,实验结果表明,MDSSA-ELM相比其他方法预测能力更优,MDSSA相比其他群智能算法搜索能力更强,为焦化企业实现焦炭智慧排产提供了有效的预测工具。

6G重叠区域中基于博弈论的任务卸载策略

高丽雪, 陈昕, 殷波

计算机科学. 2023, 50 (5): 302-312. doi:10.11896/jsjkx.220500120

摘要 ( 147 )

PDF(2871KB) ( 326 )

参考文献 | 相关文章 | 多维度评价

为实现6G网络基站服务范围重叠区域内复杂任务的高效计算,对重叠区域的任务卸载问题展开研究。在综合考虑任务时延约束、系统能耗、社会效应以及经济激励的基础上,构建多基站多物联网设备的多接入边缘计算网络模型,联合优化基站定价策略、物联网设备基站选择策略和任务卸载策略,实现基站利润和物联网设备效用的最大化。为解决重叠区域中物联网设备基站选择的问题,构建了多对一匹配博弈模型,提出基于交换匹配的基站选择算法优化物联网设备的基站选择策略。引入斯坦伯格博弈理论建立基站与物联网设备间定价和任务卸载交互的两阶段博弈模型,通过反向归纳法证明斯坦伯格均衡的存在性和唯一性。提出了基于博弈论的最优价格最佳响应算法(Optimal pricing and Best response algorithm based on Game Theory,OBGT),以获得基站和物联网设备的均衡策略。仿真实验和对比实验表明,OBGT算法可以在短时间内达到收敛,有效提高基站利润和物联网设备效用。

基于机器学习的微服务负载均衡算法研究

杨乾龙, 江凌云

计算机科学. 2023, 50 (5): 313-321. doi:10.11896/jsjkx.220400019

摘要 ( 315 )

PDF(3658KB) ( 357 )

参考文献 | 相关文章 | 多维度评价

随着云计算技术的不断发展,微服务体系结构受到了越来越多的关注。由于将大型应用程序分割成细粒度的单一服务在开发和维护方面较为方便,许多大型应用程序已经从单体结构发展为微服务体系结构。在微服务架构中,为了提高微服务的可用性,通常采用集群结构的方式部署微服务实例。针对微服务集群中服务器节点随着任务数量的增加而出现负载不均衡的问题,提出了一种基于Xgboost(Extreme Gradient Boosting)的最短预测响应时间负载均衡算法(Shortest Predictive Response Time,SPRT)。首先选取影响任务响应时间的特征参数,然后使用集成学习预测新任务的响应时间,最终将任务分配给预测响应时间最短的服务器节点,以达到服务器节点之间负载均衡的目的。结果表明,相比其他负载算法,所提负载均衡算法在吞吐量、截止率和平均响应时间上都有一定的提升,而且更适用于高并发环境下的微服务集群。

免授权NOMA 系统中基于变步长自适应匹配追踪的抗干扰多用户检测算法

李玉阁, 王天荆, 沈航, 罗小康, 白光伟

计算机科学. 2023, 50 (5): 322-328. doi:10.11896/jsjkx.220400170

摘要 ( 107 )

PDF(2655KB) ( 276 )

参考文献 | 相关文章 | 多维度评价

第五代移动通信系统(5G)通过非正交多址(NOMA)技术对无线通信资源进行非正交复用,以过载的方式提高了频谱利用效率和系统容量。NOMA系统采用免授权的方式减少了系统流程和信令开销,但是接收端需要进行多用户检测。基站利用活跃用户的稀疏特性,采用压缩感知(CS)重构算法恢复活跃用户的混合稀疏向量,实现了高效的多用户检测。但5G网络中基站密集部署增强了相邻小区间的干扰,因而增加了CS检测难度及降低了检测精度。针对免授权NOMA系统中多用户检测存在干扰的问题,提出了一种基于变步长自适应匹配追踪的抗干扰多用户检测算法。在稀疏度未知的情况下,该算法以大步长快速接近、小步长精确逼近稀疏度的自适应变步长方式,实现抗干扰的活跃用户检测。仿真结果表明,在不同过载率下,所提算法的误比特率均低于传统的基于OMP,gOMP和SAMP的多用户检测算法。

基于区块链技术的身份认证研究综述

张淑娥, 田成伟, 李保罡

计算机科学. 2023, 50 (5): 329-347. doi:10.11896/jsjkx.220400169

摘要 ( 268 )

PDF(3421KB) ( 639 )

参考文献 | 相关文章 | 多维度评价

区块链技术由中本聪于2008年的白皮书中提出。作为点对点网络中的一种去中心化和分布式公共账本技术,区块链应用链接块结构来验证和存储数据,用可信共识机制来同步数据变化,为身份认证的实现提供了一种可信的技术方案。与传统集中式认证方式相比,基于区块链技术的身份认证可以在保护数据真实可靠、节点隐私安全的同时实现数据共享。文中概述了基于区块链技术的身份认证研究现状及进展。首先,从区块链的技术架构、分类以及共识算法系统地介绍了区块链的一些基本理论;然后重点介绍了口令认证技术、生物识别技术、PKI技术以及其结合区块链应用的身份认证目前的研究现状;接着从物联网、车联网、智能电网、金融、医疗等应用方面介绍了基于区块链的身份认证技术的研究进展;最后分析了区块链身份认证技术目前存在的问题,并展望了未来的发展趋势。

基于行为关联的双重假位置选择算法

涂思盼, 张琳, 刘茜萍

计算机科学. 2023, 50 (5): 348-354. doi:10.11896/jsjkx.220300207

摘要 ( 245 )

PDF(2511KB) ( 259 )

参考文献 | 相关文章 | 多维度评价

目前大多假位置隐私保护方法没有充分考虑到攻击者可能掌握用户上次请求服务时所提交的信息等背景知识,因此不能有效抵御背景知识攻击。基于此,提出了基于行为关联的双重假位置生成算法,该算法包含两个部分,首先在充分考虑访问概率、位置语义等地理信息的基础上提出了初次假位置生成算法,然后根据时间可达性、方向相似性等用户行为信息提出了再次假位置生成算法,最后通过大量的仿真实验,验证了此算法能够抵御攻击者的推理攻击和相似性攻击。

基于多模态生成对抗网络的多元时序数据异常检测

张仁斌, 左艺聪, 周泽林, 王龙, 崔宇航

计算机科学. 2023, 50 (5): 355-362. doi:10.11896/jsjkx.220400221

摘要 ( 361 )

PDF(2110KB) ( 339 )

参考文献 | 相关文章 | 多维度评价

针对传统多元时序数据异常检测模型未考虑时空数据的多模态分布问题,提出了一种多模态生成对抗网络多元时序数据异常检测模型。利用滑动窗口分割时间序列并构造特征矩阵来捕获数据的多模态特征,将其与原始数据分别作为模态信息输入多模态编码器及多模态生成器中,输出具有时空信息的多模态特征矩阵,并将真实数据编码成特征矩阵,将两类特征矩阵作为判别器输入,利用梯度惩罚方法并拟合真实分布与生成分布之间的Wasserstein距离,取代二分类交叉熵损失训练判别器,结合生成器重构误差及判别器评分实现异常检测。基于安全水处理(SWaT)及水量分布(WADI)等数据集的测试结果表明,所提模型相比基准模型在F1-分数性能指标上分别提升了0.11和0.19,能够较好地识别多元时序数据异常,具有较好的鲁棒性以及泛化能力。

可证明安全的异构无线传感器秘钥管理协议

张凌浩, 唐勇, 邓东, 刘洋洋, 唐超, 桂盛霖

计算机科学. 2023, 50 (5): 363-371. doi:10.11896/jsjkx.220400193

摘要 ( 284 )

PDF(2534KB) ( 267 )

参考文献 | 相关文章 | 多维度评价

认证和秘钥协商协议是解决无线传感器网络中设备安全通信的主流方法,而目前主流的无线传感器网络秘钥协商协议考虑的场景为对等节点之间的认证和协商,存在计算量高、通信效率低的问题。针对以上问题,提出了适用于异构无线传感器网络中的认证与秘钥管理协议,通信终端节点(L节点)双方首先与各自所在簇的管理节点(H节点)协商会话秘钥,若未通过身份认证,则拒绝L节点接入网络,解决了大多数协议缺少应对拒绝服务攻击的问题;然后借助通信路径所经过的H节点转发会话秘钥协商信息,完成通信双方端到端的会话秘钥协商,使得协议具有安全网关和访问控制的能力。该协议还支持对被捕获节点的节点注销,并减少对其他通信链路安全性的影响。基于求解椭圆曲线上的离散对数问题和Diffie-Hellman问题的困难性假设,在随机预言机模型中证明了该方案可以满足前向安全、抗秘钥泄露伪装攻击、未知秘钥共享安全、无秘钥托管、已知秘钥安全等更完整的安全属性,与已有文献相比,所提协议在应对拒绝服务攻击上具有最低的计算开销,整体计算量和通信量适中。

基于同态加密的神经网络模型训练方法

赵敏, 田有亮, 熊金波, 毕仁万, 谢洪涛

计算机科学. 2023, 50 (5): 372-381. doi:10.11896/jsjkx.220300239

摘要 ( 410 )

PDF(2403KB) ( 544 )

参考文献 | 相关文章 | 多维度评价

针对云环境下数据隐私泄露与基于同态加密的隐私保护神经网络中精度不足的问题,文中提出了一种双服务器协作的隐私保护神经网络训练(PPNT)方案,在云服务器协同训练过程中实现了对数据传输、计算过程及模型参数的隐私保护。首先,为避免使用多项式近似方法实现指数和比较等非线性函数,并提高非线性函数的计算精度,基于Paillier半同态加密方案和加法秘密共享技术设计了一系列基础安全计算协议;其次,在已设计的安全计算协议基础上,构造了神经网络中的全连接层、激活层、Softmax层及反向传播相应的安全计算协议,以实现PPNT方案;最后,通过理论与安全性分析,证明了PPNT方案的正确性及安全性。性能实验结果显示,与PPMLaaS方案相比,PPNT方案的模型精度提高了1.7%,且在安全计算过程中支持客户端离线。

基于卷积神经网络多源融合的网络安全态势感知模型

常利伟, 刘秀娟, 钱宇华, 耿海军, 赖裕平

计算机科学. 2023, 50 (5): 382-389. doi:10.11896/jsjkx.220400134

摘要 ( 206 )

PDF(2794KB) ( 522 )

参考文献 | 相关文章 | 多维度评价

为了准确获取整个网络的安全态势,设计了一种包含流量探测、属性提炼、决策引擎、多源融合和态势评估五大核心环节的网络安全态势感知模型。流量探测指,以网络流量探测器和入侵检测探测器为工具对流量进行监测,分别抓取流量基础特征和恶意活动特征;属性提炼指,以准确地提炼核心属性为目的,重点关注能够刻画恶意活动特征的报警信息、报警类别和连接属性;决策引擎指,以属性提炼生成的各探测器的核心属性数据为输入,以卷积神经网络为引擎识别各种攻击;多源融合指,采用指数加权的D-S融合方法有效地融合各决策引擎的输出结果,提升攻击识别率;态势评估指,借助权系数理论有效地量化威胁等级,利用层次化分析方法准确地获取整个网络的安全态势。实验结果表明,不同探测器探测到的数据对各类攻击识别的差异较大,多源融合算法可将攻击识别的准确率提升到92.76%,在准确率指标上优于多数研究成果,准确率的提升有助于层次化网络分析方法更加准确地计算整个网络的安全态势。