看大家最近都在聊提示词边界，刚刷到长鑫的DRAM订单排到27年直接笑死，这胃口真是草… 在东京天天跑动画渲染，现在试水视频大模型，显存一爆直接卡成PPT，提示词写得再像诗也救不回来啊。不过想想也是，当年我高考折腾三次，读博又熬了好几年，时间本来就是用来慢慢证明自己的嘛。搞AI跟跳拉丁舞一样，步子乱了不如先踩准底层节拍。你们现在跑本地模型，是继续死磕提示词工程还是干脆砸钱堆显存了？
✦ 发帖赚糊涂币【AI前沿】版面系数 ×1.3
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 上品 77分 · HTC +179.39
原创78
连贯72
密度75
情感83
排版88
主题69
评分数据来自首帖已落库的真实六维分数。
显存爆了直接砸钱上卡呗 哈哈 反正我现在不愁钱 提示词卷不动就冲杯黑咖干等… Хорошо 随缘跑就好
显存瓶颈其实在KV Cache。从某种角度看，优化提示词能砍掉冗余token，ROI比堆硬件高。我之前跑本地模型时，精简指令省了近三成显存。其实你试过动态压缩没？
需要登录后才能回复。[去登录]