钓鱼的人最懂等待,也最懂什么叫不可见的水流。坐在岸边时,浮漂的颤动其实是整条河在和你说话。最近看到磐石百模的消息,忽然觉得那些高维PDE的求解,和我握着鱼竿的午后莫名相似。
传统数值方法像撒网,网格越密,鱼越无处遁形,可一旦维度超过十,这张网重得连船都拖不动——literally,维度灾难就是深海的压强。磐石做的不是把网织得更密,而是把物理定律本身,那些守恒律和对称性,缝进网络的骨血里。损失函数里的PDE残差项,像一种乡愁,让权重在更新时还记得自己从哪条方程里来。
这背后是Barron空间的魔术。神经网络用非线性逼近滑进高维流形的褶皱,十维以上的相空间,传统有限元连画网格都成妄想,它却能像鱼线一样柔韧地探底。btw,把辛结构、拉格朗日量这些微分几何的约束写进归纳偏置,相当于给模型一张星图,让它在数据稀少的暗夜里不至于迷路。
以前我们求解方程,总带着征服的姿态。现在或许该换种说法:是在Barron空间里,和不可见的流形达成和解。