栏目导航
报告题目:大规模机器学习问题的随机动量型算法研究
主讲人:徐东坡
主办单位:数学与人工智能学院
讲座时间:2024.5.15 上午9:00-10:30
讲座地址:9455澳门新葡萄娱乐场大厅科技创新中心2001会议室
内容简介:
随机动量算法(SGDM)在深度学习实践中的出色表现推动了其理论分析的发展。研究发现,现有结论大多依赖于较强假设(如有界性),而这些假设在实际应用中往往难以满足。如何在更贴合实际情况的背景下,研究SGDM的收敛行为值得进一步探索。本报告将介绍我们关于SGDM的一系列工作:(1)随机动量算法统一框架的建立;(2)有界性假设的移除;(3)最后一次迭代收敛与收敛速率的获得;(4)迭代复杂度的分析
主讲人简介:
徐东坡,现任东北师范大学数学与统计学院教授、博士生导师。2009年博士毕业于大连理工大学计算数学专业。研究方向为:深度学习的优化理论及其应用。作为第一作者曾经在《IEEE Trans. Neural Netw. Learn. Syst》、《IEEE Trans. Signal Process》《Neural Networks》《Neural Computation》以及《Neurocomputing》等杂志发表多篇SCI论文。2022年获得吉林省科学技术奖自然科学奖二等奖,独立完成; 2017年获得吉林省自然科学学术成果奖二等奖,排名第一。 目前主持国家自然科学基金面上项目一项,作为课题骨干参加了两项国家重点研发计划项目,担任Frontiers in Artificial Intelligence和Frontiers in Big Data期刊的副主编。