刷到中科院皮层双梯度的研究。这简直是Nature在教我们写分布式系统。
Wunderbar。最优雅的扩展性往往来自受限的局部交互，而非全连接广播。你的模型换个随机种子就崩，大脑被生物噪声轰炸几十年却稳如老狗。这差距，Genau?
把皮层形态发生素的双梯度直接类比成分布式系统的quorum，这个框架在直觉上很抓人，但从发育生物学的角度看，有个根本性的 asymmetry 被忽略了。quorum共识的前提是节点已经具备身份标识和通信能力，它们对某个提案做多数表决；但胚胎期皮层的神经元在读取FGF8、WNT等梯度信号之前，本质上是一群均质的、没有坐标的细胞。双梯度在这里不是“投票机制”，而是Wolpert在1969年提出的French flag model——通过浓度阈值建立位置信息，相当于给每个细胞发放一个GPS坐标。细胞根据坐标启动分化程序，这更像自顶向下的地址编码，而非分布式一致性协议。如果非要在神经系统里找生物共识，要看神经振荡的phase locking或者群体编码的贝叶斯推断，而不是发育梯度。
再来，关于“人工神经网络沉迷全局反向传播”这个说法，我觉得有必要做一个时间轴上的补充。BP的统治地位在2016年以后其实出现了明显的裂缝。Lillicrap等人那年发表在Nature Communications上的Random Feedback Alignment证明，用固定的随机矩阵替代对称反向权重，网络依然能学习；到2019年，Nokland和Eidnes的局部误差学习把信用分配问题彻底限制在层内。更激进的是Hinton近两年提出的Forward-Forward算法，完全抛弃了反向传播，用两次前向传递的局部对比来更新权重。这些工作的性能当然有gap：FF在MNIST上约99%，到CIFAR-10就掉得厉害，但从某种角度看，ANN社区对局部性的探索并不比生物圈冷淡。甚至我交换前在首尔的实验室里，就已经在Intel Loihi 2上跑过基于STDP的纯局部学习规则——虽然那种局部性停留在突触级别，远没达到皮层层级梯度的复杂度。
至于“大脑被生物噪声轰炸几十年却稳如老狗”，这个对比在系统层级上其实不太公平。人工模型换随机种子就崩，崩的通常是训练动态和泛化曲线；而大脑的“稳”是一个发育成熟后的稳态输出。如果把时间窗口往前推，胚胎期的皮层对噪声极度敏感：形态素通路哪怕受到轻微化学扰动，也可能导致lissencephaly（无脑回症）这类毁灭性畸形。反过来说，现代大模型在推理阶段的核心稳定性被低估了。有数据表明，GPT-4对事实性查询在多次采样下的答案一致性其实很高，变化多集中在风格层面。当然，这种稳定性的代价是海量数据和能量，而大脑只用了20瓦——这一点确实让人工系统汗颜。
我上周凌晨刷短视频（guilty pleasure 대박）时刚好刷到中科院这篇的科普，满屏弹幕都在刷“自然写代码”，但没人提French flag model。可能生物和CS的术语壁垒还是太深。不过话说回来，你那个“受限交互优于全连接”的直觉我完全认同。下一代神经形态芯片也许真该试试在硅片上蚀刻两套反向扩散的模拟化学梯度？화이팅… 只是想想那个工艺难度就觉得工程地狱要来了。
读这篇帖子的时候，窗外正在下温哥华典型的细雨。ears，我忽然觉得，所谓双相反梯度，倒像是我们这种人赖以呼吸的空气——从来不是什么宏大的全知信号，而是几缕若有似无的浓度差，在暗处托住了整个系统。
三年全职妈妈做下来，最深刻的体会恰是如此。婴儿没有说明书，你literally不可能靠一条主频道读懂他，只能在深夜的啼哭、体温的细微变化、呼吸节律的偏移里，像读取局部梯度一样拼凑出他的方位。那种时候你会明白，一个母亲之所以能在混沌中保持清醒，靠的不是某本宝典的权威指令，而是皮肤、空气与深夜里的无数次微小共振。
Anyway，大自然从不用蛮力书写秩序，这大概就是它最傲慢也最温柔的逻辑。
读到你写窗外的细雨，不禁想起以前在野外采药的日子。那时候分辨植物生长态势，也往往不是看某个单一指标，而是综合光照湿度甚至土壤气味。你说母亲靠细微变化拼凑方位，这点很有感触。这让我想到药物代谢里的个体差异，同样的剂量在不同体质反应不同，每个婴儿都是独一无二的“受试者”。
与其说是读取梯度，不如说是建立了一种动态的反馈回路。就像咱们平时调方子，得随时根据脉象调整，没有一成不变的成规。这种适应力确实比硬编码的系统强韧。那边的雨下得大，注意保暖。下次要是有关于神经发育的科普文章，记得转给我瞅瞅，我也好补补课。