喜欢可点赞关注,并收藏,您的支持就是我的写作的动力
文章目录
一、 PINN介绍
- PINN综述-Blog介绍
- 内嵌物理知识神经网络 (Physics Informed Neural Network,简称PINN) 是一种科学机器在传统数值领域的应用方法,特别是用于解决与偏微分方程 (PDE) 相关的各种问题,包括方程求解、参数反演、模型发现、控制与优化等。
综述论文
- Physics Informed Machine Learning – A Taxonomy and Survey of Integrating Prior Knowledge into Learning Systems
- Integrating physics-based modeling with machine learning: A survey
- Scientific Machine Learning through Physics-Informed Neural Networks: Where we are and What’s next
- 基于神经网络的偏微分方程方法综述,中文综述
二、物理信息驱动深度学习动手编程教程
内嵌物理知识神经网络:
- 深度学习求解微分方程系列一:PINN求解框架(Poisson 1d)
- 深度学习求解微分方程系列二:PINN求解burger方程正问题
- 深度学习求解微分方程系列三:PINN求解burger方程逆问题
- 深度学习求解微分方程系列四:基于自适应激活函数PINN求解burger方程逆问题
- 深度学习求解微分方程系列五:PINN求解Navier-Stokes方程正逆问题
基于物理信息的极限学习机:
三、 物理信息驱动深度学习方法几点讨论
具体请看对应链接详细解释。
- 反问题计算上有比较大的优势。
- 需要做快速推断时,优势更明显。
- 高维问题上的潜在优势。
- 物理嵌入方式方法上。当前,物理信息驱动的深度学习方法主要有以下几种物理嵌入的方式:
- 通过对网络结构特殊设计嵌入物理。如已知微分方程有一阶导和二阶导,可将 一阶导和二阶导嵌入到网络模型中,这可以看做是一种直觉的嵌入,能够提高网络的学习,但这并不是必须地,一定能提高网络学习能力,而是直觉上觉得应该能提高。
- 某种意义上的hard constraint。
- 从网络学习上。
- 很多知识通过数据隐式表现(如模拟数据)如何利用这些数据。
- 量化不确定性。
3 神经网络在求解PDE-based物理系统时的重要理论问题
- 从频率角度看待收敛性问题。
- 适定性问题研究。
- 损失震荡持续下降问题。特别是利用神经网络求解PDE时,
- 如何在不训练网络下做误差分析,给出网络的一些收敛阶。
- 严格嵌入物理。物理信息不是简单加到损失函数中进行优化,而且设计网络时,严格嵌入网络结构中,使得网络输入输出严格满足物理约束,再去做优化。一种思路,能否将传统数值方法优势叠加到网络设计中可能使得求解优化问题变得更简单,也是当前研究一大难点。
- 应用上可进一步发展。理论上进一步难做,但目前来看,往应用问题上进一步发展还是非常有前景。物理驱动深度学习方法在前面讲到在逆问题上的优势,对于传统数值方法在某些逆问题上很难求解甚至无法求解,但利用深度学习神经网络的灵活性,能求解以前不能做的问题并将误差降到勉强能接受的问题。
- benchmark的研究。提出的方法能够在同样的问题上验证算法。
- 关注频率角度看待网络学习。可以关注学习上海交大许志钦老师的blog,频率原则。
四、相关论文
1 定义问题, 建立工程架构
- Integrating physics-based modeling with machine learning: A survey
- Physics-informed neural networks: A deep learning framework for solving forward and inverse
problems involving nonlinear partial differential equations- 用内嵌物理信息的神经网络求解PDE的源头文章,从数据驱动角度提出PINN,求解PDE正逆问题。
- 代码链接。
- DGM: A deep learning algorithm for solving partial differential equations
- 对于高维PDE用数值方法不能求解,提出DGM方法即用神经网络求解高维PDE问题,同时提出用Monte Carlo估计方法代替PDE中的二阶导数能够加速学习。
- 代码链接。
- hp-VPINNs: Variational Physics-Informed Neural Networks With Domain Decomposition
- 采用变分区域的方式对区域内采点,这是一种启发式的踩点方法,在准确性上有所提升。
-
- 代码链接。
- Physics-informed neural networks for inverse problems in nano-optics and metamaterials
- 用PINN求解材料PDE问题中的参数,求解逆问题,使用的最常规的PINN,主要是结合了材料相关背景.
- Physics-Informed Neural Networks for Cardiac Activation Mapping
- DeepXDE: A deep learning library for solving differential equations
- 提出了基于PINN的一个求解各类PDE的库.
- Deep learning-based method coupled with small sample learning for solving partial differential equation
- 特意将损失项中的data loss提出来说这是小样本学习,相比于Rassi的PINN增加data loss项,并与其对比,复现了文章中的算例,增加了一项loss后在准确度上有所提高
2 网络结构选择
- Prevention is Better than Cure: Handling Basis Collapse and Transparency in Dense Networks
- 对于网络设计的思考,提出了Basis Collapse的概念,提出给损失函数增加一个构造的惩罚项,能够使用lower-weight net实现相同甚至更好的函数拟合效果.
- Adaptive activation functions accelerate convergence in deep and physics-informed neural networks
5万+



被折叠的 条评论
为什么被折叠?



