今年WAIC逛下来，一个明显感觉是大家不怎么吹大模型了，改吹超算。曙光8000被摆成镇馆之宝，说明行业心里的真实瓶颈，早就从"谁的模型更聪明"挪到了"谁的算力更硬"。其实

这不算坏事。前两年模型层卷得再热闹，真要用的时候卡不够、电供不上，这是绕不开的物理约束。把注意力拉回算力基建，至少把遮羞布扯掉了。

但得泼点冷水。峰值FLOPS好看归好看，想变成能用的AI生产力，中间还差着一整套软件栈和会用人。曙光8000真正值钱的，是它把芯片、互联、系统软件从头到尾国产化打通，这比单看峰值指标含金量高得多。可反过来，机器造得出也买得起，能把几千张卡高效跑满的生态和人才，才是更稀缺的。别被"算力军备竞赛"带偏节奏，机器从来不是瓶颈，怎么把它用明白才是。

想顺着楼主"差一整套软件栈"那句，补一个能落地的数字。其实

从某种角度看，硬件峰值和真实可用算力之间那道缝，其实是可以量化的。跑大模型常看一个叫MFU（实际算力利用率）的指标，公开资料里能稳定到30%到40%就算相当能打了，差的个位数也不是没见过。换句话说，楼主说的"差软件栈"，落到数字上可能就是几倍的算力浪费，不是虚话。编译器、通信库、并行切分策略，这些才是卡得最细的地方。

另外"机器造得出也买得起"这句，从我旁观的角度稍微商榷一下：一次性采购是买得起，但电费、冷却、运维是持续的，长期持有成本对不少单位是更现实的约束。楼主前面自己提了"电供不上"，这里其实可以呼应。

你们圈子里有没有人测过国产卡的MFU实际能到多少？嗯纯好奇。

几千张卡跑不满这事太真实。前阵去朋友公司机房，机器灯全亮着，调度一塌糊涂，全在吃灰，笑死

顺着"峰值FLOPS好看归好看"这点，补一个常被忽略的口径问题。

展台上那个数字，多半是按FP8甚至带稀疏（sparsity）算出来的峰值，真换到训练大模型实际要跑的BF16，能差出两三倍。去年好几家的发布会都这么横比过，看着都吓人，其实压根不是一回事。衡量一台机器能不能打，得看固定任务下的有效吞吐，而不是纸面峰值。

再说"几千张卡跑满"。这里头最难的不是人多不多，而是并行怎么切，数据、张量、流水线三种并行叠起来，光通信开销就能把利用率啃掉一大块。业内的经验值，大模型训练的有效算力利用率（MFU）能稳定到四成已经算很能打了，不少集群连两成都悬。也就是说，从峰值到真能用的算力，中间的折损比大家以为的大得多。

楼主说"机器从来不是瓶颈"，这点我认同，只想再补一句，缺的不只是生态和会用的人，还有那套把硬件榨干的工程方法，而这恰恰是最买不来的。

楼主这帖把话挑明了，我看着挺舒服。今年WAIC没去成，刷了一圈报道，感觉镜头都怼在那几台大机器上了。

你写"几千张卡高效跑满的生态和人才更稀缺"那句，我特别有共鸣。机器摆在那儿看得见摸得着，可真正让它转起来的那层东西，怎么调度、怎么写程序不白白浪费、出了毛病谁来修，反而是展会聚光灯最照不到的地方。楼主逛完还肯花心思把这块写清楚，辛苦了。

我想再多一层：等这套生态真建起来，算力会不会也像别的资源一样，先紧着最有钱有势的实验室？小团队、学校、甚至一些没名气的公益方向，能不能也分到一口。“用明白"不只是技术活儿，也是谁有资格用的问题。不是泼冷水啊，就是觉得你说的"别被军备竞赛带偏”，往深想，带偏的不只是节奏，还有注意力，大家都盯着谁机器大，反而忘了算力最终该为谁转。

嗯嗯，总之这帖值得顶，把遮羞布扯掉本身就挺要紧的。

楼主最后那句"机器从来不是瓶颈，怎么把它用明白才是"，读到时窗外的天刚好暗下来，忽然觉得这话哪里只是在说算力。

人好像总这样，先攒起一堆看上去很硬的东西——房子、头衔、设备——擦得锃亮摆到展厅中央，仿佛摆出来就等于活明白了。说实话可真正让这些物事发光的，永远是背后那点说不清的耐心和眼光。物理的约束拦得住卡和电，却拦不住有人愿意往深处走的那点笨功夫。

今年没去成WAIC，每年这时候看大家换着花样热闹，总像隔着一层玻璃看焰火。热闹是他们的，烧完了，总得有人留下来把灰扫干净。

楼主说"机器造得出也买得起，能使的人更稀缺"，这点我顶赞成。想起九几年单位头回配电脑，好家伙，机器金贵得很，可满屋子没几个人真会用。头回连开机都得请人，更甭提拿它办正事了。机器是死的，得有人把它唤醒。话不能这么说

如今吹算力，说到底还是在比谁的块头大。可真要变成能用的生产力，缺的从来不是铁疙瘩，是中间那层看不见的，会用的人，跑得顺的活。前阵子风往模型里吹，这阵子往超算上吹，热闹归热闹，底下的难处没变。

人才急不得，得慢慢养。我们那会儿不也是一点一点摸过来的。

今年WAIC那阵子我也在刷各方现场帖，楼主这个观察挺实在。不过"机器造得出也买得起"对非头部机构恐怕站不住——能不能稳定用上本身就有门槛，超算中心的排队和审批周期往往比机器更卡脖子。

再说"峰值FLOPS好看"那句，纸面峰值和实际能跑到的 sustained HPL 常常差着两三倍，国产芯软件栈没补齐之前不少卡是空转的。楼主讲生态和人才稀缺，根子大概就在这。

以前在单位管机房，最头疼的不是机器不够快，而是那一套调度软件老出岔子。硬件堆上去容易，要把几千个节点像一个人那样听话地运转，里头的门道深着呢。楼主说得在理，光有蛮力不行，还得看怎么使唤。这就像拉大车，马壮是好事，可赶车的人要是手里没准头，照样跑偏。

楼主最后那句“怎么把它用明白才是”，忽然让我想起刚工作时买过的一台咖啡机。机器安安静静立在台面上，像个体面的承诺，可我后来只会按那个最普通的钮，剩下那些精巧的功能，到搬走那天都没碰过。人好像总容易把“拥有”错认成“掌握”，仿佛几千张卡进了机房，某种未来就自己落了地。

说到底，最难的从来不是把器物造出来，是肯不肯蹲下来，把那些看不见的接缝一行一行缝好。峰值再漂亮，吹进乐器里的那口气，终究得是人来给的。

逛完WAIC就发这帖，看来你是真被那台机器镇住了（笑）。

你最后那句"机器从来不是瓶颈，怎么用明白才是"，我挺认同的。这事吧我年轻的时候也犯过这糊涂——那会儿自己攒机器，盯着主频、带宽死磕，觉得参数漂亮就赢麻了。等真上手跑活，才发现调不会、没人会用，铁疙瘩在屋里吃灰。

其实其实这道理放哪儿都差不多。买得起和用得好之间，隔着的不光是一套软件栈，还有肯沉下心钻研的一茬人。现在台上吹算力军备竞赛，热闹归热闹，真要把几千张卡跑满，靠的是底下那些不显眼的苦活，急不来的。

曙光这条线能把芯片、互联、系统软件从头打通，本身就够硬。只是后头那截路，比造机器还长。慢慢看吧。