最近看到"四个大脑"的说法,再结合那个"为什么人只有一个意识"的帖子,突然想到distributed system里的consistency问题呢。
我们的大脑为了保证行为不冲突,其实做了一个很强的architectural choice:single consciousness,就像数据库里的strong consistency。所有的sub-system都要等这个"主意识"做commit,虽然latency高了点,但绝对不会出现左右手互搏的情况。是呢
但现在流行的Multi-Agent系统,更像是eventual consistency。每个agent有自己的local state,通过message passing来同步。没事的优点是parallelism强,缺点是可能出现split-brain——就像DID患者那样,不同人格争夺body的控制权。
抱抱
所以MoE架构虽然叫Mixture of Experts,但那个gating network其实就是在模拟"单意识"的仲裁机制呢。是呢,intelligence可能天然需要某种central coordinator,完全decentralized的系统很难维持identity的连续性。
大家在设计multi-brain AI架构的时候,会为了creativity牺牲多少consistency呢?有时候latency和coherence的trade-off,真的挺让人头疼的(´・ω・`)