硕士生导师
当前位置: 学院首页 > 师资队伍 > 硕士生导师 > 正文

关磊

学历:博士

学科:计算机科学与技术

研究领域或方向:深度学习、并行与分布式计算、最优化算法

邮箱:guanlei@tyut.edu.cn

职称:副教授

  • 个人简介
  • 主要课程
  • 主要成果
  • 关磊,太原理工大学副教授、硕士生导师,中国人工智能学会(CAAI)高级会员,CCF大数据专委会执行委员,CCF分布式计算与系统专委会执行委员,IEEE/AAAS/ACM 会员。国防科技大学计算机学院博士,之江实验室访问学者。博士毕业后,曾经担任国防科技大学数学系讲师、副教授。主要从事深度学习、并行与分布式计算和最优化算法等领域的前沿交叉研究工作,具体研究领域涵盖深度学习优化器、大模型分布式训练与推理、AIGC多模态有害内容检测、大模型检索增强生成(RAG),以及AI For Science(蛋白质结构预测)。
    以第一作者在《IEEE TPAMI》(IF=20.8)、《IEEE TKDE》(IF=10.4)、ICDM、ICASSP和PAKDD等国际著名期刊和学术会议上发表论文10余篇,以独立作者在《自然》通讯专栏发表文章1篇,主持国家国防科技工业局和中国人工智能学会-华为AI算力加速计划等项目2项,参与国家重点研发计划、山西省重点研发计划和国家自然科学基金项目多项,申请/授权国家发明专利5项,参与编写英文专著1部,获2025年ACM新星奖(太原分会)。受邀担任国际期刊《Carbon Neutralization》(IF=12)青年编委,担任《Nature Sustainability》、《IEEE TPAMI》、《npj Climate Action》和《计算机学报》等国内外顶级期刊审稿人。


    课题组招生/学术合作
    课题组招收硕士研究生,欢迎具有数学、计算机、人工智能、物理生物化学等专业背景且对本课题组研究方向感兴趣的同学与我联系,在课题组只要踏实肯干就会有学术成果收获。同时欢迎国内外学者、学生与课题组展开长线合作研究(可远程),有意者请邮件联系。
  • 《机器学习》(本科)、 《机器学习前沿》(博士)
  • 学术论文:
    [1] Lei Guan*, Dongsheng Li, Yanqi Shi, and Jian Meng. XGrad: Boosting Gradient-Based Optimizers with Weight Prediction. IEEE Transactions on Pattern Analysis and Machine Intelligence (TPAMI),46(10):6731-6747.(CCF-A类期刊,SCI一区TOP,IF=20.8)
    [2] Lei Guan*,Dongsheng Li, Yongle Chen, Jiye Liang, Wenjian Wang, and Xicheng Lu. PipeOptim: Ensuring Effective 1F1B Schedule With Optimizer-Dependent Weight Prediction. IEEE Transactions on Knowledge and Data Engineering (TKDE), 2025, 37(5): 2831-2845. (CCF-A类期刊,SCI一区TOP,IF=10.4)
    [3] Lei Guan*. Reaching carbon neutrality requires energy-efficient training of AI. Nature 626.7997 (2024): 33-33. (通讯专栏文章)
    [4] Lei Guan*. AdaPlus: Integrating Nesterov Momentum and Precise Stepsize Adjustment on AdamW Basis. IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP),2024: 5210-5214. (CCF-B类会议, Oral)
    [5] Lei Guan, Dongsheng Li*, Jiye Liang, Wenjian Wang, Keshi Ge, and Xicheng Lu. Advances of Pipeline Model Parallelism for Deep Learning Training: An Overview. Journal of Computer Science and Technology (JCST), 39(3): 567−584.(CCF-B类期刊)
    [6] Lei Guan, Tao Sun, Linbo Qiao, Zhihui Yang, Dongsheng Li*, Keshi Ge and Xicheng Lu. An efficient parallel and distributed solution to nonconvex penalized linear SVMs[J]. Frontiers of Information Technology & Electronic Engineering (FITEE), 2020, 21(4): 587-603. (CAAI-B类期刊)
    [7] Lei Guan*, Linbo Qiao, Zhihui Yang, Dongsheng Li, Keshi Ge and Xicheng Lu. An efficient ADMM-based algorithm to nonconvex penalized support vector machines[C]. 2018 IEEE International Conference on Data Mining Workshops (ICDMW), 2018: 1209-1216. (CCF-B类会议Workshop)
    [8] Lei Guan*, Zhihui Yang, Dongsheng Li, Xicheng Lu. pdlADMM: An ADMM-based framework for parallel deep learning training with efficiency[J]. Neurocomputing, 2021,435: 264-272. (CCF-C类期刊,SCI二区)


    专著:
    [1] Lei Guan*, Yongle Chen*, and Shaofeng Zhang. “Energy-Efficient Deep Learning Training”. In Advances in Energy Recovery and Efficiency Technologies,edited by Basel I.Abed Ismail, IntechOpen,ISBN 978-1-83769-772-4.


    科研项目:
    [1]国家国防科技工业局一般项目,基于权重预测的异步流水线并行训练系统关键技术研究,WDZC20235250118,2023.01-2024.12,20万元,主持
    [2] 中国人工智能学会-华为AI算力加速计划,AI大模型优化与并行训练研究,2025.09-2026.03,主持
    [3]山西省重点研发计划,202402150101007,基于工业互联网的重型装备协同制造技术攻关和应用示范, 2024.11-2027.11,120万元,在研,课题负责人
    [4]国家重点研发计划,2022YFB4500305,基于内存池的AI大模型框架优化关键技术,2022.10-2025.09,500万元,结题,参与


    国家发明专利:
    [1] 关磊,乔林波,李东升,卢锡城.一种分布式求解非凸正则化支持向量机的方法, ZL201810685676.7
    [2] 关磊,李东升,卢锡城. 面向多机多卡计算系统的并行训练DNN模型的方法及系统, CN202211382434.3
    [3] 关磊,段宏儒,陈红阳,于丹,徐玉乔,王建峰,陈永乐. 一种基于锐度感知最小化的图像分类方法, CN202511271452.8