Credit: Lu等人的人工神经网络是连续函数的高效逼近器，连续函数是值没有突然变化的函数(即图表示中的不连续性、孔洞或跳跃)。尽管许多研究已经探索了使用神经网络来逼近连续函数，但是它们逼近非线性算子的能力迄今为止很少被研究。布朗大学的研究人员最近开发了一种新的基于神经网络的模型，可以学习线性和非线性算子。这一计算模型发表在《自然机器智能》杂志的一篇论文中，其灵感来自复旦大学一个研究小组过去进行的一系列研究。
进行这项研究的研究人员之一George Em Karniadakis告诉TechXplore，“大约五年前，当我在讲授变分法的课堂上，我问自己一个神经网络是否能逼近一个函数(我们知道它逼近一个函数)。我四处寻找，一无所获，直到有一天我偶然发现了陈&陈在1993年发表的一篇论文，在这篇论文中，研究人员利用单层神经元实现了函数逼近。最后，我还阅读了同一个团队关于算子回归的另一篇论文，我们将其作为研究的起点。从那以后，陈教授通过电子邮件与我联系，感谢我发现了他被遗忘的论文。”
受复旦大学陈和陈论文的启发，Karniadakis决定探索开发一种既能逼近线性算子又能逼近非线性算子的神经网络的可能性。他和他的一个博士生陆璐讨论了这个想法，他开始开发DeepONet。
与传统的逼近函数的神经网络相反，DeepONet逼近线性和非线性算子。该模型包括两个深度神经网络:一个网络编码离散输入函数空间(即分支网络)，另一个网络编码输出函数域(即主干网络)。本质上，DeepONet将函数作为输入，这些函数是无限维的对象，并将它们映射到输出空间中的其他函数。
Credit: Lu等“利用标准的神经网络，我们对函数进行逼近，函数以数据点为输入，输出数据点，”Karniadakis说。“所以DeepOnet是看待神经网络的一种全新方式，因为它的网络可以代表所有已知的数学算子，也可以代表连续输出空间中的微分方程。”
一旦学会给定的算子，DeepONet就能比其他神经网络更快地完成运算和做出预测。在一系列初步评估中，Karniadakis和他的同事发现它可以在几分之一秒内做出预测，甚至是那些与非常复杂的系统相关的预测。
Karniadakis说:“DeepONet对自动驾驶汽车非常有用，因为它可以实时做出预测。“它还可以用作模拟数字双胞胎、系统的系统，甚至复杂的社会动力系统的构建模块。换句话说，我们开发的网络可以代表经过密集离线训练的黑盒复杂系统。”
作为研究的一部分，研究人员研究了DeepONet输入函数空间的不同公式，并评估了这些公式对16种不同应用的泛化误差的影响。他们的发现非常有希望，因为他们的模型可以隐含地获得各种线性和非线性算子。
在未来，DeepONet可能会有广泛的应用。例如，它可以开发能够解决微积分问题或求解微分方程的机器人，以及更灵敏和复杂的自动驾驶汽车。
“我现在正与能源部的实验室以及许多行业合作，将DeepONet应用于复杂的应用，例如，在高超音速飞行中，在气候建模中，如南极冰融化建模应用，以及在许多设计应用中。”
来源：由phyica.com整理转载自PH，转载请保留出处和链接！
