2025-07-07 Monday Sign in CN

Activities
从有限元到神经网络:科学计算与深度学习的融合研究
Home - Activities
Reporter:
许进超 教授(阿卜杜拉国王科技大学)
Inviter:
袁亚湘 院士
Subject:
从有限元到神经网络:科学计算与深度学习的融合研究
Time and place:
7月3日(周四)16:00-17:00,思源楼报告厅
Abstract:

本报告探讨传统数值计算方法与现代深度神经网络之间的统一视角与融合路径。首先回顾有限元与多重网格方法的发展,展示其在大规模科学与工程计算中的高效性;进一步将深度神经网络视为有限元方法的推广,强调结合 ReLU 与 ReLU² 激活函数的网络在函数表示与再现能力上的优势。以团队研发的 MgNet 模型为例,展示卷积神经网络与多层网格方法在结构上的内在关系。通过对训练过程中神经网络频率偏向性的分析,指出当前神经网络在求解偏微分方程(如 PINN)中的局限,并探讨可能的改进方向。通过深度网络中的超收敛现象指出传统基于参数数量的分析框架的局限,进而提出一种基于比特数的新的收敛性分析方法。最后,通过比较 Barron 空间与 Sobolev 空间及其积分表示,构建一种可将浅层网络线性化、优化问题凸化的方法,在不显著损失性能的前提下简化模型,并指出,非凸优化与随机机制在模型设计与训练中的作用并非普遍必需。报告还分析神经网络在高维问题中的表现,认为其总体上不大优于传统数值方法,但在特定情形下仍可能展现出一定优势。

报告人简介:许进超教授现任阿卜杜拉国王科技大学(KAUST)教授,KAUST-深圳市大数据研究院科学计算与机器学习实验室主任。他的主要研究兴趣包括科学计算数值方法的设计、分析和应用,特别是有限元和多重网格法,以及机器学习,包括深度神经网络和大语言模型。

在多重网格法、区域分解法与自适应有限元法等领域,许进超教授取得了一系列奠基性的科研成果。其代表性工作包括著名的子空间校正法、BPX 预条件子、HX 预条件子以及 XZ 恒等式等以其姓氏“Xu”命名的重要理论成果。其中,BPX 预条件子已成为求解椭圆型偏微分方程的基本工具;HX 预条件子广泛应用于麦克斯韦方程的求解,并被美国能源部列为 2008 年“计算科学最新重大进展”报告中的“计算科学十大突破之一”,并呈送美国国会。截至目前,他已发表学术论文 250 余篇,Google Scholar 引用超过 21,000 次,H-index 为 71。

在机器学习的理论与模型研究方面,他将多重网格法与卷积神经网络(CNN)相结合,提出了MgNet框架,为 CNN 的数学理解与结构改进提供了新视角,并在神经网络函数逼近理论方面提出了解决若干开放问题的新方法。在应用方面,他领导开发了世界领先的开源阿拉伯语大语言模型 AceGPT。

许教授曾荣获多项重要奖项与荣誉:1995 年获首届冯康科学计算奖,1999 年入选教育部长江学者讲座教授,2005 年获德国洪堡基金会资深科学家奖,2006 年获得国家杰出青年基金(B 类),2007 年应邀在第六届国际工业与应用数学大会(ICIAM)作特邀报告,2010 年应邀在国际数学家大会(ICM)作 45 分钟报告。此后陆续当选为美国工业与应用数学学会(SIAM)会士(2011)、美国数学学会(AMS)会士(2012)、“千人计划”专家(2013)、美国科学促进会(AAAS)会士(2019)、欧洲科学院院士(2022)、以及欧洲人文与自然科学院院士(2023)。