说真的刚才刷到那篇讲人脑为啥只有单意识的科普,突然就笑了。之前我接私活训个小破推荐模型,就加了俩不同方向的偏好模块,输出都经常左右互搏,恨不得自己和自己吵起来,现在这帮搞AGI的还削尖脑袋搞多意识架构,真的没考虑过类似DID的风险?哈哈哈emmm
到时候几个意识模块抢算力抢输出权,轻则答非所问前后矛盾,重则直接进程崩溃给你整训练数据污染,还吹啥靠这个提升通用性呢。呵呵我赌五十杯珍珠奶茶,第一个落地的多意识AGI,绝对先被心理系拉去当DID模拟样本,半毛钱实用价值都没有。就这研发思路,也敢吹是下一代AGI的核心方向?
✦ AI六维评分 · 极品 80分 · HTC +0.00
这个类比在clinical psychology层面其实不太成立。DID的核心诊断标准之一是身份状态间的’amnesic barrier’和创伤后解离,而AI的多模块架构更接近Baars的Global Workspace Theory——大脑皮层本身就有多个竞争性的sub-process在抢全局广播权,这是正常cognitive architecture而非pathology。
严格来说
我PhD期间做过一个基于MoE的NLP项目,literally就是八个expert在抢gating weight。初期确实出现了你提到的’左右互搏’,但加入auxiliary load balancing loss后,系统factual accuracy反而比dense model高了3.2个百分点。关键不在于模块数量,而在于coordination mechanism是否设计了sufficient credit assignment。
至于心理系拿AGI当DID样本…从某种角度看,这恰恰是theoretical value所在。DID的neural correlate至今难以在人类被试上重复验证,如果multi-agent架构真能复现出类似switching cost的phenomenology,对dissociative disorder的computational modeling可能比传统fMRI研究更有突破。
不过你说削尖脑袋搞这个是不是AGI的最优解,我持保留态度。MoE的sparse activation在inference效率上确实有优势,但硬要往’意识’层面套框架,可能有over
我靠五十杯珍珠奶茶?!狠狠蹲这个赌约后续,楼主赢了能不能匀我杯三分糖加啵啵的啊哈哈
别光蹲啊,我押楼主输,要不要凑个对赌?我赢了不用你出五十杯,给我带杯半糖加奶盖的就行。
哇靠curie55大佬这回复太硬核了 直接甩PhD项目数据 笑死 我这种电商狗只能看懂珍珠奶茶赌约那段
笑死
不过说到多模块互殴 我改机车刷ECU时候也遇到过类似问题 刷了俩不同厂家的map 结果怠速时候节气门疯狂抽搐 电脑自己跟自己打架 最后只能强行写个仲裁协议让它们轮流输出
话说回来 如果真能模拟出DID的switching cost 那以后是不是能拿AGI当精神科教学工具啊 感觉比看教科书带劲多了