在人工智能技术驱动的智能信息系统中,图神经网络(GNN)因其强大的图结构建模能力,被广泛应用于社交网络分析和金融风控等关键场景的知识发现与决策支持。然而,此类系统高度依赖第三方数据与模型,使GNN面临隐蔽的后门攻击威胁。攻击者通过注入后门触发器或篡改模型,可诱导系统对含特定模式的输入产生预设错误输出,进而破坏智能信息服务的可信性与可靠性。为保障智能信息系统的安全可控,从数据和模型两个层面对GNN后门攻击与防御研究进行了系统性综述。首先,深入分析了GNN在数据集收集、模型训练和部署阶段面临的后门攻击风险,构建了清晰的GNN后门攻防模型。其次,依据GNN后门攻击的实施阶段和攻击者能力,将后门攻击分为包含了6种面向数据的攻击和2种面向模型的攻击;依据防御实施阶段和防御者能力,将GNN后门防御方法分为面向数据、面向模型和面向鲁棒训练的防御;对各类方法的核心原理、技术特点进行了详细对比分析,阐释了其优缺点。最后,总结了当前研究面临的主要挑战,并展望了未来研究方向。提出的后门攻防模型和分类体系,有助于深入理解智能信息系统中的GNN后门安全威胁的本质及技术演进,推动下一代可信智能信息系统的安全设计与实践。

在大语言模型服务系统中,用户体验是一个关键考量因素。服务级目标和系统级指标是两种关键的性能衡量标准,前者关注单个请求的体验,后者关注系统的整体性能。然而,现有的度量标准存在两个与直觉相悖的问题:1)通过刻意延迟部分词元的交付可以提升服务级目标指标;2)主动丢弃不满足服务级目标的请求可以改善系统级指标。为解决上述问题,重新分析了大语言模型服务中的服务级目标和系统级指标,并提出了一种与用户体验更一致的新型服务级目标。基于此服务级目标,提出了一种名为“平滑有效吞吐量”的综合度量框架,其通过整合服务级目标和系统级指标来反映大语言模型服务中用户体验的本质。利用该统一框架,对不同大语言模型服务系统在多种工作负载下的性能进行了重新评估。评估结果表明,所提出的度量框架能够对词元交付和请求处理提供更全面的评估维度,并有效地捕捉在不同服务策略下用户体验与系统性能的最优点。

随着中美贸易摩擦加剧,我国对国产加速芯片的研发任务愈发紧迫。海光DCU采用类CUDA架构,凭借优异的兼容性和性价比,成为人工智能领域替代美国高端芯片的有力候选。然而,在海光DCU平台上,作为大语言模型训练关键算子的GEMM核函数的性能差异显著。针对该现象,研究了矩阵转置对rocBLAS算法库中GEMM核函数性能的影响,并提出最小化转置与自适应转置两种优化方法,以有效降低大语言模型的训练耗时。修改了PyTorch的线性层实现,提出了大语言模型分布式训练的最小化转置和自适应转置优化方法。实验结果表明,这两种优化方法在多种大规模语言模型(如 OPT-6.7B,LLaMA-7B,Bloom-7B 等)的分布式训练中均能显著降低训练时间。在83个测试样例中,自适应转置优化方法在72种情况下表现更优,相比基于原始PyTorch的Megatron-LM端到端训练时间提升最高达 24.27%。

认知评估量表是认知障碍快速筛查的重要评定工具之一,传统方法依赖于医生的经验和判断,难以保证诊断结果客观准确。深度网络技术的发展和大语言模型的兴起推动了医疗智能辅助诊断的进步,开展针对医学认知评估量表自动化辅助诊断的研究有较大意义。针对这一问题,聚焦于一个常用认知评估量表——蒙特利尔认知评估量表(Montreal Cognitive Assessment,MoCA),提出由大语言模型和基于深度网络的图像分类模型组成的自动诊断MoCA的框架,并在此框架下选用模型。为增强基础模型对量表题目的处理能力,提出了融合线性注意力的CSWin-FLA Transformer(Cross-Shaped Window With Focused Linear Attention Transfromer)和基于少样本的自动生成提示方法AGPoFS(Automatic Generation of Prompts Based on Fewer Samples),并设计了一个MoCA诊断流程。鉴于不存在公开的MoCA数据集,收集整理了武汉大学中南医院提供的量表数据组成数据集,从各个方法到整体系统分别进行实验,结果表明,该系统在提出的数据集上取得了最好的应用性能,证明了相关改进和整体系统的有效性。

随着大语言模型(Large Language Model,LLM)技术的成熟,基于自然语言的数据库交互系统(如Chat2DB,ChatExcel)已实现广泛应用。然而,现有系统普遍依赖于“精确查询”假设,难以应对现实场景中广泛存在的模糊需求,即用户需要在与系统交互的过程中明确其查询需求。为了应对这个挑战,提出了SQL-MARS(SQL-oriented Multi-Agent Recommender System)。该系统基于“感知-行动-评估”闭环机制的多智能体协同框架,实现面向数据库模糊查询需求的动态判别与自适应处理。系统提出三层元数据架构建模用户需求以实现模糊感知。在此基础上,系统实现数据导航功能,根据用户的模糊需求分粒度向用户推荐查询建议,渐进式地引导用户澄清查询需求。同时,系统提出外部资料与本地数据融合机制,充分利用外部资料中有价值的信息。此外,还创建了Bird-fuzzy模糊需求数据集,系统实现了自动化评估。实验结果表明,SQL-MARS能够识别模糊需求并有效引导用户澄清数据需求。

图神经网络(Graph Neural Networks,GNNs)因其在社交网络、推荐系统等领域的广泛应用而备受关注。近年来,个人信息遗忘权、数据产权保护、数据使用权过期等原因产生的数据遗忘需求不断加剧,使得图遗忘学习、深度遗忘学习和大模型遗忘等遗忘学习成为人工智能领域的研究热点。然而,现有研究大多设置为随机遗忘,忽视了对数据所有者数据遗忘权的最大保障,忽视了构造更极端场景以对不同遗忘学习算法进行深度综合评估。为此,面向图遗忘学习,提出一种基于图数据节点影响力的近似最差遗忘集构造算法,以近似最优构造图遗忘学习的遗忘节点样本集合。该算法结合节点的训练损失和结构中心性对图数据训练样本的节点影响力进行排序,从中识别出最具影响力且最难遗忘的节点集,从模型效用影响和节点重要性两个方面综合优选遗忘节点集合。利用不同图神经网络模型、图数据集和多个图遗忘学习算法进行实验,所提算法能使图遗忘学习算法更有效地降低模型效用,相较于随机遗忘策略模型效用下降幅度达15%;同时,该算法显著增强了不同图遗忘学习算法在多个指标上的差异性,能够更有效地对遗忘学习算法进行多维度评估。

疲劳驾驶是引发交通事故的重要原因之一。针对实际场景中摄像头角度、环境光等因素导致的特征提取不足和不同数据下模型适应性差的问题,提出了一种新型基于迁移学习的疲劳驾驶检测框架。该框架通过设计卷积神经网络与Transformer双分支特征提取与融合结构,实现CNN与Transformer的优势互补,增强了模型的特征表征能力,充分提取了驾驶员的局部与全局面部特征。为提高模型在源域与目标域之间的自适应能力,框架采取分段域适应策略,在特征提取阶段采用对抗域适应和多核最大均值差异(MK-MMD)策略,并在特征融合阶段进一步引入MK-MMD和最小类别混淆损失(MCC),使模型充分适应不同数据。在两个具有显著特征差异的数据集上的实验结果表明,该框架在目标域上的检测准确率达到了93.3%(A为源域,B为目标域)和75.1%(B为源域,A为目标域),显著提升了模型的适应性与鲁棒性。

在高频交互的社交网络环境中,虚假信息常通过用户群体的协同扩散来迅速传播,呈现出复杂的多阶传播结构和语义关联,是国家安全技术领域亟待应对的关键挑战之一。然而,现有仅依赖文本内容或传统传播图结构的检测方法无法有效建模这种高阶语义交互与协同行为。为此,提出一种融合传播结构的群体语义驱动超图网络方法(GSHN-DD)。该方法首先基于用户行为与信息主题构建初始超图,以捕捉群体协同与语义关联;然后通过链路预测与双层筛选机制挖掘潜在高阶超边,构建增强型超图拓扑结构;在此基础上,采用超图卷积网络与双层注意力机制,实现对全局群体传播模式与局部关键超边特征的融合;最后将传播特征与超图语义特征融合,生成统一的嵌入表示,并将其输入全连接分类器,完成虚假信息识别。在PolitiFact和GossipCop数据集上进行了实验,结果表明,GSHN-DD相较于最优基线方法,准确率提升了2~5个百分点,F1值提升了2~7个百分点。

近年来,基于表填充的实体关系联合抽取方法取得了显著效果,但现有研究尚未考虑到词对间的边界关联性建模,以及构建词对语义相似性问题。为解决上述问题,提出了一种基于多尺度聚合协同轴向语义引导的实体关系联合抽取模型。首先,设计的多尺度语义聚合模块通过并行多个不同尺寸的深度卷积提取不同排列下词对间的边界关联信息,从而丰富词对语义,识别隐形实体。其次,轴向语义引导模块通过行列带状卷积从轴向上进行卷积注意力校准,强化词对关键语义表征,从而改善词对间语义相似问题。最后,在数据集NYT^*,WebNLG^*,NYT和WebNLG上进行实验,该方法分别取得了93.2%,94.5%,93.2%和91.4%的F1得分,相较于基线模型分别提高了0.1个百分点、0.6个百分点、0.4个百分点和1.0个百分点,表明其能够捕获词对边界关联以及精细化词对语义,提升了实体关系联合抽取的性能。

知识追踪是智能教育系统中的核心任务,即根据学习者历史答题行为对知识点掌握程度进行建模并预测下一个答题结果。然而,现有方法普遍存在3个局限:1)多数依赖习题编号或知识点标签,未充分挖掘习题和知识点之间复杂的图结构特征以提高习题表征能力;2)未充分利用习题多维度属性信息来进一步提升习题嵌入表达能力;3)未充分考虑学习者学习知识遗忘规律对知识掌握的影响,导致预测效果受限。因此,提出一种融合多视角习题表征与遗忘机制的深度知识追踪模型(MEFKT),利用预训练模型学习具有高质量表达能力的习题嵌入,并结合学习者学习规律对答题行为进行预测。首先,基于习题关系图,利用无监督对比学习方法预训练包含图结构信息的习题表征;同时,基于习题/知识点相似性、习题难度、习题类型和习题答题时长等信息,构建包含多维度属性的预训练习题表征;接着,利用线性融合对齐机制,将多视角习题表征映射到同一表征空间,得到最终的习题表征;最后,结合遗忘机制构建行为预测模型,实现对学习者知识状态的动态更新及对下一个答题结果的预测。在两个公开数据集上进行的实验表明,MEFKT在预测效果上显著优于基准模型,其具备有效性和先进性。