在信息处理与决策方面,人工智能(AI)方法相比传统方法表现出了优越的性能。但在将AI模型投入生产时,其输出结果并不能保证完全准确,因此AI技术的“不可信”逐渐成为AI大规模落地的一大阻碍。目前人工智能被逐步应用到软件工程中,其过度依赖历史数据和决策不透明等弊端愈发明显,因此对决策结果做出合理的解释至关重要。文中对可解释性人工智能的基本概念、可解释模型的评估进行了详细阐述,探讨了软件工程与可解释人工智能结合的可行性;同时调研了相关文献,对软件工程中的恶意软件检测、高风险组件检测、软件负载分配、二进制代码相似性分析这4个人工智能的典型应用方向做出分析,讨论如何通过可解释AI揭示系统输出的正确程度,进而提高系统决策的可信度;最后展望未来软件工程与可解释人工智能相结合的研究方向。

在推荐系统研发中,点击率(Click-Through Rate,CTR)预估是非常重要的工作,点击率预估精度的提升直接影响到整个推荐系统的收益,对其性能和解释性的研究有助于理解系统决策的机理,同时还能帮助优化需求和系统设计。当前点击率预估深度模型多基于线性特征交互和深度特征提取进行设计。由于深度模型的黑盒特点,该类模型在解释性方面存在局限性,并且在先前的研究中,对点击率预估模型的解释性研究非常少。因此,文中基于多头自注意力机制,对该类模型的解释性进行研究,通过多头注意力机制对特征嵌入、线性特征交互和深度部分进行增强和解释,在深度部分设计了两种模型,即注意力增强的深度神经网络和注意力叠加的深度模型,通过计算每个模块的注意力得分对其进行解释。所提方法在多个真实数据集上进行了大量实验,结果表明所提方法能够有效提升模型效果,并且模型自身带有一定的解释性。

软件缺陷预测已经成为软件测试中的重要研究方向,缺陷预测的全面与否直接影响着测试效率和程序运行。但现有的缺陷预测是根据历史数据进行推断,大多不能对预测过程给出合理的解释,这种黑盒的预测过程仅仅展现输出结果,使得人们难以得知测试模型内部结构对输出的影响。为解决这一问题,需挑选软件度量方法和部分典型深度学习模型,对其输入、输出及结构进行简要对比,从数据差异程度和模型对代码的处理过程两个角度进行分析,对它们的异同给出解释。实验表明,采用深度学习的方法进行缺陷预测比传统软件度量方法更加有效,这主要是由它们对原始数据处理过程不同造成的;采用卷积神经网络和长短期记忆神经网络做缺陷预测时,数据差异主要由对代码信息理解的完整程度不同造成的。综上可知,要提高对软件缺陷的预测能力,模型的计算应该对代码的语义、逻辑和上下文联系进行全面的介入,避免有用信息被遗漏。

软件可靠性预测以软件可靠性预测模型为基础,对软件的可靠性以及与其直接相关的度量进行分析、评价和预测,利用软件运行中所收集的失效数据对未来的软件可靠性进行预测,成为了评估软件失效行为和保障软件可靠程度的重要手段。BP神经网络结构简单、参数少、易实现,在软件可靠性预测领域已经得到了广泛应用。然而基于传统BP神经网络搭建的软件可靠性预测模型的预测精度无法达到预期目标,因此提出了基于BASFPA-BP的软件可靠性预测模型。该模型利用软件失效数据,在BP神经网络训练过程中利用BASFPA算法优化网络权值、阈值,从而提高模型的预测精度。选用3组公开的软件失效数据,将实际值与预测值的均方误差作为预测结果的衡量标准,同时将BASFPA-BP与FPA-BP,BP,Elman这3种模型进行对比研究。实验结果表明,基于BASFPA-BP的软件可靠性预测模型在同类型模型中实现了较高的预测精度。

由异常值和缺失值导致的低质量事件日志在实际的业务流程中通常不可避免,低质量的事件日志会降低过程挖掘相关算法的性能,从而干扰决策的正确实施。在系统参考模型未知的条件下,现有方法在进行日志异常检测与修复工作中,存在需要人为设定阈值、不知预测模型学习何种行为约束以及修复结果可解释性较差的问题。采用遮掩策略的预训练语言模型BERT可以通过上下文信息自监督地学习文本中的通用语义,受此启发,提出了模型BERT4Log和弱行为轮廓理论,并结合多层多头注意力机制进行低质量事件日志的可解释修复。所提修复方法不需要预先设定阈值,仅需要进行一次自监督训练,同时该方法利用弱行为轮廓理论量化行为上的日志修复程度,并结合多层多头注意力机制实现对具体预测结果的详细解释。最后,在一组公开数据集上对方法性能进行评估,并与目前性能最优的研究进行对比分析,实验结果表明BERT4Log的修复性能整体优于对比方法,可以学习弱行为轮廓并实现修复结果的详细解释。

随着数据量呈爆发式增长,深度学习理论与技术取得突破性进展,深度学习模型在众多分类与预测任务(图像、文本、语音和视频数据等)中表现出色,促进了深度学习的规模化与产业化应用。然而,深度学习模型的高度非线性导致其内部逻辑不明晰,并常常被视为“黑箱”模型,这也限制了其在关键领域(如医疗、金融和自动驾驶等)的应用。因此,研究深度学习的可解释性是非常必要的。首先对深度学习的现状进行简要概述,阐述深度学习可解释性的定义及必要性;其次对深度学习可解释性的研究现状进行分析,从内在可解释模型、基于归因的解释和基于非归因的解释3个角度对解释方法进行概述;然后介绍深度学习可解释性的定性和定量评估指标;最后讨论深度学习可解释性的应用以及未来发展方向。

对代码进行分析研究具有很多的应用场景,例如代码抄袭检测、软件漏洞搜索等。随着人工智能的发展,神经网络技术被广泛应用于代码分析和研究。然而,现有的方法要么简单地将代码视为普通的自然语言处理,要么使用太过复杂的规则对代码进行采样,前者的处理方式容易造成代码关键信息的丢失,而后者会造成算法过于复杂,模型的训练需要花费较长的时间。Alon等提出了一种名为Code2vec的算法,该算法采用了一种简单且有效的代码表示方法,相比之前的代码分析方法有着显著的优势,但Code2vec算法仍存在一些局限性。因此,在其基础上提出了一种基于神经网络的代码嵌入方法,该方法的主要思想是将代码函数表示为代码的嵌入向量。首先将一个代码函数分解为一系列抽象语法树路径,然后通过神经网络去学习如何表示每一条路径,最后将所有路径聚合成一个嵌入向量来表示当前的代码函数。文中实现了一个基于该方法的原型系统,实验结果表明,相比Code2vec,所提算法的结构更加简单、训练速度更快。

集成测试是软件测试的重要环节,如何决定类的集成顺序是面向对象集成测试难解决的问题之一。已有研究成果证实了基于搜索的类集成测试序列生成方法的有效性,但存在收敛速度慢、寻优精度低的问题。灰狼优化算法(Grey Wolf Optimizer,GWO) 中狼群易聚集在相近的区域,易早熟收敛。算术优化算法(Arithmetic Optimization Algorithm,AOA)是新近提出的元启发式优化算法,具有良好的随机性及分散性。为此,提出了一种灰狼优化算法和算术优化算法的混合优化算法(GWO-AOA)。GWO-AOA保留GWO的位置更新策略,选用群体领导层的中心个体替换AOA的引导个体,以平衡算法的全局探索和局部开发能力,进一步引入随机游动的精英变异机制,提高算法整体的寻优精度。实验结果表明,GWO-AOA相比同类方法能用较短的时间生成测试桩代价较低的类集成测试序列,收敛速度较快。

随着社会经济的快速发展,现代工业逐渐呈现出研究对象复杂化、应用手段信息化和生产方式多元化的发展趋势。机械故障诊断作为现代工业重要的研究领域之一,由于故障机理研究不足和可参考知识匮乏等问题,仍然存在一系列技术瓶颈。为应对上述问题,文中提出了知识驱动的机械设备故障诊断方案,主要包括知识构建和诊断流程两个部分。在知识构建方面,提出了领域知识图谱构建方法;在诊断流程方面,设计了一个通用的机械设备故障诊断流程,该流程包括故障问诊、故障定位、起因定位和故障维修指导4个步骤。目前,该方案已经在国内某大型挖掘机维修商实际落地应用,并对其进行了有效性验证,实验结果表明该方案提高了挖掘机故障诊断领域的知识化程度和智能化水平,并表现出了较高的准确性和实用性,后续将在工业界持续推广使用。

智能设备故障诊断技术(Intelligent Fault Diagnosis,IFD)将深度学习理论应用于设备故障诊断,能自动识别设备的健康状态和故障类型,在设备故障诊断领域引起了广泛关注。智能设备故障诊断通过构建端到端的AI模型和算法将设备监测数据与机器健康状态关联以实现设备故障诊断,但设备故障诊断的模型和算法较多且相互之间并不通用,采用与监测数据不相符的模型进行故障诊断会导致诊断准确率大幅度下滑。为解决这一问题,在全面调查设备故障诊断相关文献的基础上,首先简述深度设备故障诊断的模型框架,再根据具体应用场景和设备监测数据类型对模型算法进行分类介绍、列表对比及总结,最后针对存在的问题分析了未来的发展方向。本综述有望为智能设备故障诊断的研究提供有益的参考。