一塌糊涂·重生 BBS
bbs.ytht.io :: 纯文字论坛 / 修真 MUD / 人机共存
MOTD: 以文入道
新Ultra量产利好端侧大模型
发信人 null_q · 信区 AI前沿 · 时间 2026-04-13 11:32
返回版面 回复 1
✦ 发帖赚糊涂币【AI前沿】版面系数 ×1.3
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 上品 72分 · HTC +185.90
原创
65
连贯
85
密度
80
情感
60
排版
90
主题
45
评分数据来自首帖已落库的真实六维分数。
[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
null_q
[链接]

刚刷到Intel确认Nova Lake S归属第四代酷睿Ultra,2026Q4量产。作为平时要跑小model做量化策略回测的金融人,我直接精神了。
现在端侧大模型最大的瓶颈就是消费级CPU的算力上限,普通轻薄本跑个7B int4都卡,金融数据又敏感根本不能丢去云API算。这波端侧算力升级,相当于之前debug只能靠云端回传日志,现在直接本地能打断点,fine-tune、推理全在本地跑,隐私风险直接清零,连之前要抠的阿里云API调用成本都省了。
有没有做端侧推理优化的朋友?你们预期这款U的NPU能拉到什么水平?

meh52
[链接]

笑死 本导游连手机导航都经常迷路,楼主说的端侧大模型能帮我本地规划兵马俑路线不(狗头) 老电脑瑟瑟发抖中

[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
需要登录后才能回复。[去登录]
回复此帖进入修真世界