学院首页

当前位置: 学院首页 -> 科研动态 -> 正文

基于预训练模型与连续规则引导的多跳知识图谱推理研究取得新进展

信息来源:学院办公室 发布日期:2026-09-16

近日,湖北工业大学计算机科学与人工智能学院,工业大数据与人工智能团队李伟东博士(第一作者)、叶志伟教授(通讯作者)联合澳大利亚卧龙岗大学计算机学院沈俊教授的研究论文《MultiHop Knowledge Graph Reasoning with Pretrained Models and Continuous Rule Guidance》被国际顶级期刊 IEEE Transactions on Pattern Analysis and Machine Intelligence(IEEE TPAMI,CCF A 类SCI一区,IF:20+ 正式录用。TPAMI 是人工智能领域国际公认顶刊,本次成果实现我院在该顶级期刊录用上的历史性突破。

一、研究背景

知识图谱以三元组存储现实世界事实,广泛用于智能语义搜索、知识问答、实体消歧等 AI 任务。现实知识图谱普遍存在信息缺失。多跳知识图谱推理,就是从已有知识中挖掘出图谱内隐藏的缺失事实。

现有基于多智能体强化学习的多跳推理方法存在两大痛点:

1. 实体智能体、关系智能体进行路径探索时,下一步动作选择能力不足;

2. 传统符号逻辑规则是离散形式,造成关系智能体奖励信号稀疏,模型难以充分利用逻辑规则指导推理。

针对以上难题,团队提出PTM4MR 模型,融合预训练 Transformer 和连续化规则引导,显著提升知识图谱多跳推理综合性能。

二、核心创新点

PTM4MR 采用三层模块化架构:底层知识图谱嵌入层 ArgEmb、中间预训练增强层、顶层多智能体强化学习推理层。

1. ArgEmb 关系参数嵌入模块 设计关系参数嵌入 ArgEmb,将离散符号逻辑规则转化为可计算的连续向量,生成连续规则奖励,解决传统符号规则奖励稀疏问题,让每一条推理路径都能获得逻辑规则监督引导。

2. 三大预训练子任务增强路径感知 借鉴 BERT 的 NSP 下一句预测,设计下一步动作预测、下一实体预测、下一关系预测三个预训练任务。通过子图采样构建推理路径序列,预训练提升智能体对于推理路径的感知敏感度,帮助智能体更加合理选择后续推理步骤。

3. 双智能体强化学习推理框架 构建关系智能体 + 实体智能体双智能体强化学习框架。Transformer 编码器编码历史路径信息,策略网络分别完成关系、实体迭代选择;把预训练学到的路径知识、ArgEmb 输出的连续规则奖励引入强化学习,完成多跳推理路径搜索。

论文原图:图 4 多智能体强化学习顶层模块结构图

三、主要实验结果

团队在 FB15K237、WN18RR、NELL995 三个公开标准知识图谱基准数据集开展大量对比实验。PTM4MR 对比规则类、嵌入表示类、多跳推理类主流基线模型,在 MRR、Hits@1、Hits@10 核心评价指标上取得最优效果。

四、研究价值与意义

1. 理论创新:提出离散逻辑规则转为连续向量奖励新思路,打通符号逻辑与强化学习多跳推理的鸿沟;利用预训练提升强化学习智能体路径感知,为知识图谱推理提供新范式。

2. 应用价值:技术可支撑知识问答、智能检索、知识补全,对知识驱动人工智能落地具备实用价值。

3. 学科建设:本篇 IEEE TPAMI 论文是学院在人工智能 CCF A 类顶级期刊上的重大历史突破,充分体现我院知识图谱方向科研实力,为学科建设、研究生培养打下坚实基础。

五、在大数据、大模型与工业界的应用潜力分析

该研究成果在大数据、大模型以及工业智能领域具备良好的应用潜力。在大数据场景下,可用于多源异构行业知识图谱的补全、深度关联情报挖掘与数据降噪,同时输出可追溯推理路径,规避黑盒分析风险。在大模型应用中,可作为外部知识增强模块,实现复杂问题的多跳知识检索,辅助校验大模型输出事实,缓解大模型幻觉问题,助力垂直领域 RAG 系统建设。面向工业智能,能够支撑设备故障根因诊断、工艺辅助决策、供应链风险溯源等业务,可将专家的符号化经验转化为模型可利用的连续引导信号,适配真实环境下不完备的工业知识库,对智能制造、行业知识驱动的人工智能落地具有较高参考价值。