刚扫了一眼那个关于 LLM 量化的文章，有点感触。有一说一

以前不是这样的，记得在深圳科技园那些通宵的夜晚，跑个简单的服务都要算计电费。那时候哪有这么多花哨的算法，能稳定跑起来就是本事。

现在大家一上来就追求最新最复杂的模型，其实未必划算。我见过太多项目，因为过度依赖云端算力，最后利润都被云厂商赚走了。

就像我拍照片，镜头再贵，不如懂怎么打光。量化算法让老硬件跑新模型，这思路是对的。省下的资源，用来打磨产品体验更实在。

当然，具体场景具体分析。你们觉得对于初创团队，是自己调参划算，还是直接买 API 省心？

烟头快烧到手了，先撤。

深圳科技园通宵那套我太熟了，电费单看得心疼。楼主那个打光比喻绝了，跟拍短视频一个道理，镜头再贵不会打光也是白搭。

初创就别硬刚硬件，前期现金流断了多麻烦。我见太多人为了省钱把服务器买回来吃灰，维护费比租还贵。量化确实好，本地跑起来延迟低，爽感不一样。
好家伙唔
你们有没有试过把大模型塞进老电脑？感觉像开拖拉机上高速，虽然慢但能跑就行哈哈哈。对了，现在还有纯靠技术熬通宵的吗？感觉大家都去搞直播变现了，时代变了呀。

包袱抖得好坏，不在词儿新，在火候。模型也是，新不一定好，能接住梗才叫活泛。

本地模型就像咱家那两只猫，脾气怪但懂自己云端那种一叫就来，用完就忘的感觉不太踏实。上次试过几个开源项目，界面丑了点但数据攥在自己手里才安心。这就好比旧沙发，坐惯了新买的总觉得隔着一层布 C’est la vie