机器学习成果:Gonglin Yuan etc. Biased stochastic conjugate gradient algorithm with adaptive step for nonconvex problems,Expert Systems With Applications 238 (2024) 121556

发布时间:2024-06-10 16:54   阅读:

袁功林教授团队在信息科学、运筹管理和人工智能交叉学科权威期刊Expert Systems with Applications发表学术成果

20231021日,广西应用数学中心(广西大学)常务副主任、广西大学数学与信息科学学院袁功林教授与其在读硕士研究生黄汝平、秦燕和刘科俊合作人工智能类期刊Expert Systems with Applications》上在线发表了题为“Biased stochastic conjugate gradient algorithm with adaptive step size for nonconvex problems”的学术论文,是我校实行学科交叉融合的学术成绩之一广西大学为该论文的唯一完成单位。

Expert Systems with Applications》是中国人工智能学会认定的A级期刊,2022年的影响因子/JCR分区分别为8.665/Q1Google Scholar上的H指数排名人工智能类期刊第五位。该期刊以出版信息科学和运筹管理的交叉研究成果为主,主旨是发表学者们人工智能系统的设计、开发、测试或实施的论文成果,是计算机科学大类分区一区,运筹学与管理科学小区分区一区。

该文设计了一个随机共轭梯度算法(BSCG),该算法将随机递归梯度(SARAH)和Barzilai-Borwein (BB)步长结合起来,构建了一个修正PRP随机共轭梯度公式,创建了一个修正BB步长公式;在不需要强凸条件下,分别建立了BSCG的内循环和外循环的收敛性,同时获得了外循环的线性收敛率,大大减弱了条件;分析了修正BB步长自动拥有上下界的特征;同时对机器学习中非凸支持向量机问题和经验风险最化中非凸Sigmoid损失模型进行大规模实验(数据集样本量达到58万个),实验证实了BSCG算法更具竞争性且参数对其影响不大

袁功林,广西大学数学与信息科学学院副院长教授博士生导师,广西应用数学中心(广西大学)常务副主任,主要研究从事优化理论方法、机器学习、图像处理等方面研究,累计在JOTACOAPIIE Trans.等国际专业权威期刊上发表论文70余篇,是广西十百千第二层次人选和广西卓越学者计划人选,宝钢教育奖和广西自然科学二等奖获得者

   学院的运筹优化与大数据交叉团队和广西壮族自治区应用数学中心(广西大学)和瞄准国际前沿,特别是在交叉学科领域发挥应用数学优势,探索新理论、新方法,为相关学科的关键难题寻求有效解决方案,这是中心在随机优化及在机器学习方面取得原创性进展为此方向发展提供了有力支撑,更好地服务学校学科交叉科学研究。

  论文正文和实验代码,可点击下载并给予校正:

 

地址: 广西南宁市大学东路 联系方式: 0771-3272035