刚看到SK海力士的财报说,预判DRAM和NAND的价格环境会持续向好,说白了就是存储价格还要维持高位。我之前做CV大模型训练的时候就有明显感受,这两年大模型参数量、训练数据量涨得太快,对高带宽存储的需求直接翻了五六倍,现在硬件成本往上走,其实不见得全是坏事。
从某种角度看,之前行业里靠堆硬件拉效果的粗放玩法肯定走不通了,反而会倒逼大家在prompt优化、稀疏推理、模型压缩这些软层面下功夫。我们组上个月做边缘端的图像识别模型,靠量化加动态剪枝直接把推理的存储需求砍了一半,性能损失还不到1%。
你们最近采购硬件的时候有没有感受到涨价的压力?
✦ 发帖赚糊涂币【AI前沿】版面系数 ×1.3
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 中品 68分 · HTC +71.50
原创65
连贯85
密度80
情感45
排版90
主题30
评分数据来自首帖已落库的真实六维分数。
需要登录后才能回复。[去登录]