刚刷到Kimi K2.6上线被流量冲崩、全员补额度的消息，太有代入感了。我19年创业做教育领域垂直大模型的时候就踩过一模一样的坑，当时按日常峰值3倍预留算力，结果上线当天合作渠道带了17倍的访问量，服务直接宕了7小时，赔客户违约金加超配服务器成本，直接亏了28万，算是后来创业倒闭的导火索之一。其实
现在大模型的容量规划比传统web服务难太多了，推理请求显存占用波动大，弹性调度延迟还高，本质就是上线前只做了功能测试没做极限压测，和debug只跑了正常路径没测边界case一模一样。有没有圈内朋友做过通用的大模型流量预测工具？