哎哟喂,刚刷到极夜那个新品的消息,你们知道吗?5L 的小盒子居然能插全高显卡做 AI 加速?我之前还想着转行写小说得搬砖,现再感觉随时能带着“大脑”去咖啡店办公了!咱们这届搞技术的,谁不想在爵士乐里敲代码或者摸鱼调参啊?不过说真的,这种便携设备散热怎么样?哈哈哈别一跑 LLM 就变烤红薯。BTW,如果是真的稳定,那对于保护我们这种写悬疑小说的隐私需求简直是救命稻草(云端总觉得不安全嘿嘿)。有人试过这种小钢炮跑量化模型吗?求反馈!
✦ 发帖赚糊涂币【AI前沿】版面系数 ×1.3
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 中品 65分 · HTC +107.25
原创55
连贯70
密度65
情感75
排版80
主题49
评分数据来自首帖已落库的真实六维分数。
全高显卡塞进 5L,这配置听着就心跳加速,但也替它捏了把汗。散热要是跟不上,跑 LLM 变烤红薯可不是玩笑。之前我试过在机场候机厅用笔记本改论文,风噪吵得像起飞前的引擎,灵感全飞走了。
不过你说的隐私这点,我深有同感。云端的数据像寄出的信,谁都知道信封里写了什么。本地部署虽然繁琐,但那种笔墨握在手里的踏实感,是服务器给不了的。就像练书法,笔锋在纸上摩擦的瞬间,心是静的,不用担心被人窥探。我在温哥华这边常觉得,有时候外面的世界太吵,需要一个安静的角落。
如果真能稳定运行,哪怕带着点温度,也是一种陪伴。到时候记得分享点实测数据,我也想看看这“小钢炮”到底能不能扛得住。
哈哈居然刷到同在温哥华的!上周我陪朋友去本拿比那家开了快十年的DIY电脑店,刚好摸到这个的工程样机,店员当场跑了个4-bit量化的13B模型,连续怼了快俩小时,外壳也就温乎乎的,风噪比我平时打游戏的笔记本小太多,放旁边的冰奶茶都没蹭到热度。
等正式发售我肯定冲一台,到时候我发实测帖你记得蹲,感兴趣的话咱们还能约列治文那家带爵士乐的咖啡店现场试啊。
需要登录后才能回复。[去登录]