随机维度零阶估计：物理信息神经网络的内存高效训练

汇报人：梁张勇，天津大学应用数学中心

汇报时间地点：2026年11月4日 14：00 海天苑大楼E101

汇报简介：

       物理信息神经网络（PINNs）在求解高维高阶偏微分方程（PDEs）时，面临计算成本高、内存开销大等挑战。现有随机空间微分估计方法虽然能够降低高维高阶微分算子的计算成本，但参数更新仍依赖反向传播，而直接引入零阶优化又容易放大随机采样噪声，导致训练不稳定。针对上述问题，我们提出随机维度零阶估计器（Stochastic Dimension Zeroth-Order Estimator，SDZE），构建一种无需参数反向传播的高效训练框架。该方法结合无偏交叉采样残差损失、公共随机数同步（CRNS）及具有周期性子空间更新机制的逐层低秩扰动，实现随机空间估计与零阶参数优化的有效耦合。其中，CRNS 消除了独立随机采样引起的零阶估计方差发散项，而无矩阵低秩扰动避免了显式构造稠密扰动矩阵及存储参数梯度，进一步降低了内存开销。理论上，我们建立了估计器的偏差与方差界，并在明确的子空间覆盖条件下给出了有限时间收敛保证。数值实验表明，SDZE 在多类高维高阶PDEs求解任务中能够实现稳定训练，显著降低内存占用，同时保持具有竞争力的求解精度。

汇报人简介：

       梁张勇，天津大学应用数学中心在读博士生，研究方向为科学机器学习（SciML），主要关注参数化表征学习、高维高阶 PDE 的高效求解、长时间跨尺度解行为预测、流匹配生成模型及量子科学计算。相关研究成果发表于 Eng. Struct.、Acta Mech. 等期刊，另有工作在审于JMLR、ICLR2027、SISC。2026年11月，受布朗大学 George Em Karniadakis 院士邀请，在 CRUNCH Group 作学术报告。

文：肖曼玉

审核：张莹