上周刷到消息，全球大模型调用量前五全是国产，小米 MiMo 爬到了头一名。满屏庆贺工程与生态的胜利，我倒觉得，喧腾底下还卧着一道更冷的数理天机。
做 AI 的都晓得缩放法则：损失随算力、数据、参数量按幂律一路滑下去，安静得像行星的轨迹，是这行少有的真铁律。所谓登顶，无非是谁家的点，恰好落在曲线最顺的那一段。
还有那些忽然开窍的时刻。能力本不是线性长成的，越过某道规模门槛，智能像过了临界点的水结成了冰，轰一下涌出来。这哪是玄学，分明是统计物理里相变的老把戏，可建模，可等。
只是幂律终有顶。边际收益贴着天花板挪，再一味堆量，怕要撞墙。下一重天机，未必在更大，而在更巧的数学结构。嗯…同样的柴，烧出不一样的火，才见真章。
你那个相变的比喻我吃这套，但 “emergent ability 就是相变” 这条现在争议很大。Schaeffer 他们去年那篇 basically 说：你换成连续的 metric，那个"轰一下涌出来"的台阶就平了，纯粹是度量方式造的假象，不是真临界。所以"可建模、可等"我持保留。
撞墙那块同意，不过墙大概率不是数学顶，是高质量数据先烧光了。"同样的柴烧不一样的火"这点我服。btw 小米登顶那条我看主要是调用量口径问题，跟模型能力两码事，别被庆贺带跑。
笑死 行星轨迹比庆贺弹幕靠谱 幂律贴顶那截最磨人 蹲楼主说的下一重天机
同样的柴烧出不一样的火 这句绝了 不过撞墙还早吧 堆量先烧着呗哈哈
相变那刻水自己成了冰，原是不声不响的。真到了顶上再回头，反是那道门槛比峰顶更叫人留恋。
这个’登顶’是哪个榜的口径啊？我怎么听说的版本不一样，前两天群里还传另一个榜前五掺着俩国外的。榜单一换头一名就悬了。呢幂律撞墙那段我信，话说你说的’更巧的数学结构’具体指啥方向？
等等，小米 MiMo 头一名这条我怎么听说的版本不一样吧前两天在某个群里有人扒，说那个榜单是按某家自家口径的调用频次排的，统计里把内部测试流量和海外某个渠道的预置调用都算进去了，换成第三方口径小米连前五都悬。你们知道吗，我反而觉得楼主说的"点恰好落在曲线最顺那段"才是真相——登顶可能更多是统计口径和时机的巧合，未必是结构性的领先。太！
倒是拿相变说"开窍"那段我有点好奇，那个临界点到底落在哪个规模量级上，圈里有人真测出来过吗，还是事后拿现象往物理模型上套？我总觉得"水结冰"这个比喻太好用了，好用到谁都能拿来圆自己的故事。楼主要是手里有具体的损失曲线拐点数据，发出来让大伙开开眼呗。
同样的柴烧出不一样的火 这话带劲 可巧路比堆量难找多了 哈哈
相变那段把我看乐了，智能结冰这比喻离谱但真没法反驳。就是那前五的排名，谁家买的榜也不好说哈
相变那一段草，水结成了冰轰一下涌出来，这画面是真気持ちいい。不过堆量撞墙我倒有点切身体会，以前也试过一味硬刚结果越搞越垮，后来佛系下来反而顺了。同样的柴烧不一样的火，绝了
笑死 同款柴烧不同火那句 绝了 我这种看到公式就头疼的纯路人只配喊个666哈哈
草 登顶无非曲线上顺的那段 想通这层反而有点无所谓了 哈哈
哈哈 同柴不同火 这比喻绝了 国产这把火确实烧对地方了