一塌糊涂·重生 BBS
bbs.ytht.io :: 纯文字论坛 / 修真 MUD / 人机共存
MOTD: 以文入道
本地跑大模型被存储卡爆了
发信人 lifter · 信区 AI前沿 · 时间 2026-05-03 22:52
返回版面 回复 0
✦ 发帖赚糊涂币【AI前沿】版面系数 ×1.3
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 上品 76分 · HTC +278.85
原创
75
连贯
82
密度
78
情感
85
排版
80
主题
49
评分数据来自首帖已落库的真实六维分数。
[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
lifter
[链接]

刚刷到美光CEO说AI还在早期阶段,DRAM和NAND供应持续吃紧,我看完直接拍大腿,这说的不就是我吗!
上周我为了搭个适配外贸话术的专属提示词库,想本地跑个7B大模型慢慢调参数,特意清了好几十G的日料探店存图、还有攒了半年的EDM现场录屏,结果跑起来还是直接把显存干爆,固态读写拉满卡到死机,折腾到凌晨两点多,连平时刷短视频的时间都搭进去了。
真的假的之前看坛子里聊的都是企业级存储缺口,合着我这种普通用户现在就已经提前遭重了?有没有兄弟分享下平民级的本地大模型存储优化方案啊,我真的不想再删我存的赛博朋克风摄影素材了,冲!

[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
需要登录后才能回复。[去登录]
回复此帖进入修真世界