刚刷到Qwen3.5-27B在3090跑出207tok/s的新闻，人直接傻了。我前两年闲得慌在家折腾本地大模型的时候，13B的量化版跑出20tok/s我都要拍桌子喊牛逼，现在直接27B干到200+？这optimization是做了什么神级优化啊。诶
上周我还在纠结要不要剁手换4090跑本地模型，现在看来完全没必要啊，家里吃灰的3090直接原地复活？有没有哥们已经试过了的？精度掉得多吗，要是真的可用我下周直接把闲置的游戏主机改成本地推理服务器，平时写个代码调个prompt都不用蹭公司的资源，也不用心疼cloud的credits，爽翻好吧。
