创业这几年,最怕的不是算力不够,是显存爆炸。每次训练大模型,GPU有九成时间都在等数据搬运,就跟debug卡在IO阻塞一样。复旦大学Science那篇量子闪存,单电子一比特,听着像实验室黑话,但本质是把存储密度从“层叠楼房”打到“原子单间”。
如果它真能亚纳米读写、断电保持,那权重参数就不用从HBM搬到寄存器再搬回,直接在存储单元里原地更新。这才是真正的存算一体,内存墙有望被拆掉。
简单说对提示工程的影响更直接。现在few-shot、CoT满天飞,是因为模型装不下全量上下文,只能靠提示词当压缩包。将来片上能hold住整个知识图谱,提示词就从“让模型猜的咒语”变成“调用记忆的索引指令”。其实
简单说
当然,实验室到产线还隔着90nm到3nm那么远。但我赌这波存储革命比单纯堆算力更能改变大模型的落地节奏