快速发布求购 登录 注册
行业资讯行业财报市场标准研发新品会议盘点政策本站速递

中国科大提出新型核外大规模图神经网络训练系统

研发快讯 2025年02月24日 10:13:04来源:中国科学技术大学 12860
摘要图神经网络(GNN)的主流训练框架,如DGL和PyG,利用GPU的并行处理能力从图数据中提取结构信息,在推荐系统、自然语言处理、计算化学和生物信息学等领域展现出卓越性能。

  【仪表网 研发快讯】2月11日,中国科大苏州高等研究院医学影像智能与机器人研究中心DDL实验室团队(Data Darkness Lab)在大规模图神经网络训练系统方面的研究论文“Capsule: an Out-of-Core Training Mechanism for Colossal GNNs”被国际知名学术会议ACM International Conference on Management of Data(SIGMOD)2025录用。
 
示意图:Capsule系统工作流框架
 
  图神经网络(GNN)的主流训练框架,如DGL和PyG,利用GPU的并行处理能力从图数据中提取结构信息,在推荐系统、自然语言处理、计算化学和生物信息学等领域展现出卓越性能。尽管GPU在GNN训练中提供了强大的计算优势,但其有限的显存容量难以容纳庞大的图数据,因而现有GNN系统在大规模图数据上的扩展性方面仍面临挑战。对此,DDL实验室团队提出了一种新的核外(Out-of-Core)GNN训练框架——Capsule,为大规模图神经网络训练提供了高效的解决方案。与现有的核外GNN框架不同,该系统通过图划分和图裁剪策略将训练子图结构及其特征完全放入GPU显存之中从而消除了反向传播过程中CPU与GPU之间的I/O开销,进而显著提升了系统性能。此外,Capsule通过设计基于最短哈密顿回路的子图加载方式和流水线并行策略,进一步优化了性能。同时,Capsule具备即插即用的特性,能够无缝集成至主流开源GNN训练框架中。在大规模真实图数据集上,Capsule与现有最好的系统相比能够在仅使用22.24%的内存下带来最高12.02倍的性能提升,并提供了关于训练所得嵌入方差的理论上界。
 
  计算机科学与技术学院硕士生向泳安和人工智能与数据科学学院博士生丁泽中为论文共同第一作者,通讯作者为生物医学工程学院谢希科研究员,其他合作者还包括人工智能与数据科学学院硕士生郭睿和王上游以及生物医学工程学院周少华教授。中国科学技术大学为唯一单位。DDL实验室已连续两年成功在SIGMOD上发表关于图计算系统的高水平研究成果,显示了在该领域的研究能力。
 
  注:SIGMOD是数据管理领域国际公认的最高水平学术会议之一,由美国计算机协会(ACM)数据管理专业委员会在1975年发起并举办,具有悠久的历史和很高的影响力。在中国计算机学会(CCF)推荐的“数据库/数据挖掘/内容检索”A类学术会议中,SIGMOD位居首位。

我要评论
文明上网,理性发言。(您还可以输入200个字符)

所有评论仅代表网友意见,与本站立场无关。

延伸阅读
版权与免责声明
  • 凡本网注明"来源:仪表网"的所有作品,版权均属于仪表网,未经本网授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明"来源:仪表网"。违反上述声明者,本网将追究其相关法律责任。
  • 本网转载并注明自其它来源的作品,目的在于传递更多信息,并不代表本网赞同其观点或证实其内容的真实性,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品来源,并自负版权等法律责任。
  • 如涉及作品内容、版权等问题,请在作品发表之日起一周内与本网联系,否则视为放弃相关权利。
  • 合作、投稿、转载授权等相关事宜,请联系本网。联系电话:0571-87759945,QQ:1103027433。
广告招商
今日换一换
新发产品更多+

客服热线:0571-87759942

采购热线:0571-87759942

媒体合作:0571-87759945

  • 仪表站APP
  • 微信公众号
  • 仪表网小程序
  • 仪表网抖音号
Copyright ybzhan.cn    All Rights Reserved   法律顾问:浙江天册律师事务所 贾熙明律师   仪表网-仪器仪表行业“互联网+”服务平台
意见反馈
我知道了