首页/文章/ 详情

从解一道题到学会一类题一文看懂神经算子:从 DeepONet、FNO 到 PINO

1天前浏览4

导读|如果工况换了,模型还要重新算一遍吗?

第一篇介绍 PINN 时,我们让神经网络去近似一个具体物理问题的连续解。以悬臂梁为例,给定荷载、材料参数和边界条件,网络通过方程残差和数据约束逐步得到挠度场。这个思路很适合场重建、参数反演以及稀疏观测下的状态估计。

但工程计算常常不止求一次。设计优化会反复改变材料参数和几何,可靠性分析需要评估成千上万组随机工况,数字孪生又希望模型在新的传感器数据到来后快速更新。如果每个新工况都重新做一次昂贵优化,计算优势会被迅速吃掉。

公式 1|悬臂梁的一个典型控制方程

这时可以换一个问题:我们能否跳过一个工况对应一个模型的思路,直接学习荷载函数与挠度函数之间的映射?

公式 2|从输入函数到输出函数

 1 经典 PINN 与神经算子的学习对象差异:前者常针对具体问题优化,后者面向一族输入输出函数关系


一句话先记住

神经算子的目标,是学习函数到函数的映射。对于参数化 PDE,它希望逼近输入条件 → 物理解的整条解算子,而不是只得到某一个固定工况的解。

01|从学一个答案学一条求解规律

传统神经网络最熟悉的任务,是从有限维输入映射到有限维输出。例如,输入梁长、弹性模量和集中力大小,预测最大挠度。输入可以写成一个向量,输出也可以写成一个向量。

 PDE 问题里的输入经常是一整条函数:空间变化的材料系数、热源分布、初始温度场、边界函数、荷载分布都属于这一类。输出同样是一整条函数或一个连续场。

公式 3|普通映射与算子映射

 2 函数与算子的直观区别:函数接收有限维变量,算子可以接收完整函数并输出另一个函数

这种函数进去、函数出来的映射在数学上称为算子。神经算子的关键变化就在这里:网络参数不再只拟合一张固定网格上的某组结果,它需要学习一类输入函数与一类输出函数之间的稳定对应关系。


进阶阅读|为什么叫函数空间

当输入由一整条函数描述时,所有允许出现的输入函数构成一个函数空间。神经算子通常写成 𝒢: 𝒜→𝒰,其中 𝒜  𝒰 分别表示输入与输出函数所在的空间。实际训练仍然依赖有限采样点,但理论目标位于连续函数空间。

02PDE 解算子究竟是什么?

把一个参数化 PDE 写得抽象一些,可以把材料场、源项、初始条件或边界条件统一记为 a,把温度、位移、速度或压力等未知场记为u。控制方程负责定义两者之间的关系。

公式 4|参数化 PDE 与解算子

 3 解算子的含义:给定输入条件a(x),物理系统通过控制方程产生对应的解 u(x)

传统有限元、有限差分和有限体积方法 会针对每一个具体输入 a,重新完成离散、组装和求解。神经算子则希望用一个参数化模型 𝒢θ 去逼近整个映射 𝒢

公式 5|神经算子的训练目标

理解这里的逼近整个映射很重要。训练完成后,模型遇到新的材料场或新的荷载函数时,不再从头构造数值线性系统,而是通过一次前向传播给出新的场预测。计算是否真的更划算,要看训练成本、精度要求和后续查询次数。

03|神经算子怎样训练:离线昂贵,在线便宜

神经算子通常采用离线训练在线推理的工作流。离线阶段先收集很多输入输出函数对。高保真样本可以来自数值模拟,也可以来自实验或两者融合。随后模型在这些样本上学习算子。

 4 典型离线在线流程:高保真求解器负责生成训练样本,神经算子在后续大量查询中承担快速代理

如果训练集中包含 N 个物理实例,可以把第 i 个实例写成 a⁽ⁱ⁾→u⁽ⁱ⁾。训练的目标,是让同一个模型同时逼近这些不同实例。上线以后再给出一个新的 a*,模型直接预测 u*

这里出现了一个很实用的工程概念:摊销成本(amortized cost)。前期训练可能很贵,但如果后续要进行大量重复查询,训练成本可以被分摊到很多次推理上。参数扫描、不确定性量化、优化、控制和数字孪生都属于典型的多查询场景。


容易被忽略的一点

神经算子并不自动省计算。若只需要求解一个或几个高精度工况,成熟数值求解器往往更直接。神经算子的优势通常出现在训练一次、查询很多次的任务结构中。

04DeepONet:一个网络看函数,一个网络看位置

DeepONet 是神经算子领域最具代表性的早期架构之一。它的直觉很清楚:一个子网络负责理解输入函数,另一个子网络负责理解你想查询的位置,最后把两组特征组合起来。

 5 DeepONet  Branch–Trunk结构:Branch Net 编码输入函数,Trunk Net 编码输出坐标

公式 6DeepONet 的一个典型表达

Branch Net 接收输入函数在若干传感点或采样点上的值,并输出一组函数特征 bₖTrunk Net 接收查询坐标 y,输出一组坐标特征 tₖ(y)。二者组合后得到该输入函数在位置 y 处的输出。

这种结构的优势在于查询坐标被显式放进模型。我们可以把同一个输入函数固定住,再改变 y 去查询不同位置,从而重建整条输出函数。

 6 悬臂梁上的DeepONetBranch Net 读取荷载分布 q(x)Trunk Net 读取查询位置 y,输出对应挠度 w(y)


进阶阅读|DeepONet 真正在近似什么?

可以把 Branch Net 看作对输入函数的低维编码,把 Trunk Net 看作一组依赖查询坐标的基函数。最终输出是两组特征的加权组合。这个视角与低秩展开、基函数逼近有一定相似性,也解释了为什么 Branch/Trunk 的表示能力会影响算子近似精度。

05FNO:为什么跑到 Fourier 空间里学习?

另一条经典路线是 Fourier Neural OperatorFNO)。理解 FNO 时,先不要把注意力放在 FFT 的代码实现上。它真正要处理的问题,是物理场中的全局耦合:一个位置的状态往往会受到远处区域影响,局部卷积需要多层堆叠才能逐步扩大感受野。

Fourier 变换提供了一种全局表示方式。复杂空间场可以分解为不同频率、不同尺度的模态。FNO 在频域里对这些模态进行可学习的线性变换,再通过逆 Fourier 变换回到物理空间。

 7 Fourier 视角:复杂空间场由不同尺度模态叠加形成,频域为全局关系提供了紧凑表示

公式 7|物理空间与 Fourier 空间的变换

一层 FNO 通常包含两条并行通道:一条在物理空间做局部线性变换,另一条进入频域完成全局积分算子的近似。两条通道相加后再经过非线性激活。

 8 一层 FNO 的简化结构:局部线性项与频域全局项共同更新隐藏场

公式 8FNO 层的典型形式

实践中通常只保留一定数量的 Fourier 模态。这样可以显著压缩参数量和计算量,同时也引入一个取舍:过度截断高频会损失尖锐边界、局部缺陷、冲击波或细尺度结构。


进阶阅读|用了 FFT”并不是 FNO 的全部

FNO 的核心是对连续积分算子的核进行 Fourier 参数化。FFT 负责高效实现离散变换,真正的模型假设在于:用有限个谱模态表示并学习全局作用关系。理解这一点,比记住网络层数或 FFT 接口更重要。

06DeepONet  FNO:两条路线如何选择?

 9 DeepONet  FNO 的结构差异,以及它们共同的算子学习目标

维度

DeepONet

FNO

核心表示

Branch–Trunk 分解输入函数和查询坐标

在网格场上迭代谱域算子层

输出方式

天然支持坐标查询,可逐点构造输出函数

通常一次输出整张规则网格场

输入形式

常用传感点/采样点表示输入函数

常用规则网格上的场表示

全局关系

通过函数编码与坐标编码组合

通过 Fourier 模态直接表达全局耦合

工程限制

采样位置设计和基表示会影响性能

规则网格更自然,复杂几何需额外处理

两者都属于神经算子框架。实际研究里还有图神经算子、局部神经算子、Transformer 型算子以及面向复杂几何的扩展。算法名称很多,判断它们时可以回到同一个问题:模型是否在近似一个稳定的函数到函数映射,以及这种近似是否能够跨离散、跨参数或跨几何泛化。

07|案例一:训练一个模型,覆盖大量热传导工况

回到第一篇里的热传导问题。若导热系数随空间变化、热源位置不断改变,单次 PDE 求解会随着输入场变化反复执行。神经算子的目标,是把这些不同输入统一放进一个解算子。

公式 9|非均匀介质中的热传导方程

假设输入里同时包含导热系数场 k(x)、时空热源 Q(x,t) 和初始温度 T₀(x),输出是完整温度场 T(x,t)

公式 10|热传导问题的算子学习目标

 10 热传导算子示意:不同材料/热源输入对应不同温度场,训练后的模型共享同一套参数

如果模型覆盖的输入分布足够丰富,新的材料分布或热源工况可以在一次前向传播中得到预测。这类能力对于热管理设计、快速参数扫描和实时状态估计很有吸引力。

但这里有一个前提:新的输入仍需落在模型已经学到的问题族附近。若训练集中只有平滑、低对比度的导热系数场,测试时突然出现强跳变、多尺度微结构或极端边界条件,误差可能明显放大。

08|案例二:从一根梁走向一整族结构工况

结构力学更适合展示神经算子的工程价值。对于空间变刚度梁,控制方程可以写成更一般的形式。

公式 11|变刚度 Euler–Bernoulli 

输入可以同时包含弯曲刚度 EI(x) 与分布荷载 q(x),输出是整条挠度曲线 w(x)

公式 12|结构响应的算子映射

 11 不同荷载与刚度分布会产生不同挠度曲线;神经算子尝试用一个共享模型覆盖这些工况

继续扩展到二维或三维弹性问题,输入还可以包含空间材料场、几何描述、边界类型和外载,输出可以同时包含位移、应变和应力场。此时它就接近一个可微、可批量调用的快速代理求解器。

这类模型在拓扑优化、材料反演、不确定性量化和数字孪生中很有吸引力,因为这些任务都会多次调用前向物理模型。真正决定工程价值的,是预测误差能否可靠评估,以及训练分布是否覆盖真实运行范围。

09|为什么训练一次可能值得?关键在多查询场景

神经算子的训练通常需要大量数据和较长的优化时间,所以比较方法时不能只看单次推理速度。更合理的比较是总成本:高保真求解器每遇到一个新工况都要重新求解;神经算子先支付一次训练成本,之后每次查询成本较低。

 12 摊销成本示意:当查询次数足够多时,前期训练成本可以被大量后续推理分摊

因此,神经算子更适合下面这类任务:

·Monte Carlo 与可靠性分析:需要评估大量随机输入;

·优化设计:优化器需要反复调用前向模型;

·控制与在线决策:响应时间比离线训练时间更重要;

·数字孪生:希望传感器数据到来后快速更新状态;

·多参数反演:一个反演过程往往包含成百上千次前向评估。

如果只做一次高精度认证计算,有限元或 CFD 往往仍然是更合适的工具。神经算子更像一台需要先建厂的代理求解器,只有产量足够大时,前期投入才可能换来系统级收益。

10|真正困难的地方:泛化、几何和可信度

 13 神经算子走向工程应用时需要同时处理数据、泛化、复杂几何、物理一致性和误差评估

1. 训练数据从哪里来?

很多算子模型仍依赖高保真模拟生成训练集。数据规模越大、参数维度越高,离线成本越容易失控。一个现实问题是:为了得到快速代理模型,我们可能先花费大量时间运行传统慢速求解器。

2. 分布外输入会发生什么?

模型通常在训练分布附近表现最好。当测试输入明显离开训练范围时,神经算子没有天然的可靠性保证。

公式 13|典型的分布外情形

因此,工程使用时需要定义模型的适用域,并配合不确定性估计、异常检测或高保真回退机制。

3. 分辨率泛化等于尺度泛化吗?

神经算子经常被强调能够在不同离散分辨率上工作。这里要区分两个概念:把同一个连续场换成更细网格,属于离散层面的适配;让模型处理从未见过的新细尺度结构,则要求模型对新的物理尺度继续具备表示能力。两者不能混为一谈。

4. 复杂几何怎么办?

经典 FNO 在规则网格上最自然。工程模型常包含曲面、孔洞、非结构网格、移动边界、接触和拓扑变化。处理这些问题通常需要坐标映射、图结构、局部算子或几何编码。

5. 场看起来很像,方程真的满足吗?

低数据误差不代表自动满足守恒、平衡和边界条件。一个视觉上很接近参考解的预测场,仍可能在局部区域产生较大的 PDE 残差。于是,数据驱动算子与物理约束之间的结合成为一个自然方向。

11|当 PINN 遇上 Neural OperatorPINO

Physics-Informed Neural OperatorPINO)的思路很直接:保留神经算子的学习一族问题能力,同时在训练目标中加入 PDE 残差、边界条件或其他物理约束。

公式 14|数据与物理联合约束的一个典型损失

 14 PINNNeural Operator  PINO 的关系:学习对象和训练信号的组合不同

这种组合有两个潜在收益。第一,物理约束可以在训练样本稀疏时提供额外监督;第二,模型得到的场可以接受方程层面的检查。与此同时,PINO 也会继承 PINN 中常见的损失平衡、导数计算和优化稳定性问题。


进阶阅读|PINO 也不是自动可靠

 PDE 残差加入损失函数只意味着训练时多了一类约束。物理模型本身的误差、离散误差、损失权重、边界处理和训练分布都会影响最终可信度。工程应用仍然需要独立验证。

12|怎样判断一个神经算子能用

如果目标是工程部署,只报告平均相对误差远远不够。建议至少从四个层面验证:

·场误差:位移、温度、压力等输出场与高保真参考之间的误差;

·物理误差:平衡方程、守恒律、边界条件和积分量是否满足;

·泛化误差:在未见过的参数组合、分辨率和几何上是否仍稳定;

·系统误差:模型进入优化、控制或反演闭环后,最终任务指标是否可靠。

对于结构问题,还可以进一步观察峰值应力位置、能量范数、反力平衡和关键响应量。对于流体问题,质量守恒、动量平衡和长期滚动稳定性通常比一帧图像的像素误差更有解释力。


实践建议

把神经算子看作可验证的快速代理,比把它包装成传统求解器的通用替代品更符合当前工程现实。高保真模型仍然承担基准、校准和失效回退的角色。

13|从 PINN 到神经算子,真正变化的是什么?

回到系列主线,第一篇关注的是怎样把物理规律放进神经网络,这一篇关注的是怎样让模型覆盖一整类输入条件。两者都在尝试缩短数据驱动模型与科学计算之间的距离,但学习对象已经发生了变化。

方法

主要学习对象

常见训练信号

更适合的任务

PINN

某个具体问题的连续解

PDE + BC/IC + 数据

场重建、反问题、单实例求解

Neural Operator

一族问题的解算子

大量输入输出函数对

参数扫描、代理建模、多查询任务

PINO

带物理约束的解算子

数据 + PDE/BC 等物理约束

数据有限且需要物理一致性的算子学习

神经算子值得关注的地方,在于它把机器学习的目标从预测一个有限维答案推进到逼近函数空间之间的映射。对于需要频繁求解相似 PDE 的任务,这种思路可能重构计算流程:高保真求解器负责生成知识和校准基准,学习模型负责大规模快速查询,两者在同一个工作流里协同。

参考文献|建议继续阅读

1. Lu, L., Jin, P., Pang, G., Zhang, Z. & Karniadakis, G. E. Learning nonlinear operators via DeepONet based on the universal approximation theorem of operators. Nature Machine Intelligence 3, 218–229 (2021).

2. Li, Z. et al. Fourier Neural Operator for Parametric Partial Differential Equations. International Conference on Learning Representations (ICLR), 2021.

3. Kovachki, N. et al. Neural Operator: Learning Maps Between Function Spaces With Applications to PDEs. Journal of Machine Learning Research 24, 1–97 (2023).

4. Li, Z. et al. Physics-Informed Neural Operator for Learning Partial Differential Equations. arXiv:2111.03794 (2021).


图文:EatRicer

审核:EatRicer



来源:兵哥讲力学
非线性拓扑优化通用理论材料多尺度数字孪生控制曲面有限差分
著作权归作者所有,欢迎分享,未经许可,不得转载
首次发布时间:2026-08-25
最近编辑:1天前
兵心依旧
博士 兵哥出品,必是精品
获赞 81粉丝 521文章 53课程 3
点赞
收藏
作者推荐
未登录
还没有评论
课程
培训
服务
行家
VIP会员 学习计划 福利任务
下载APP
联系我们
帮助与反馈