刚才刷到PocketTerm35的资讯,突然动了DIY的心思。我平时跑客户见合作方多,总想要个能揣兜里的离线AI工具,手机跑本地小模型总卡,带个轻薄本又嫌沉。
这款配树莓派5的版本,跑个量化后的小尺寸大模型应该没问题吧?临时要生成个方案要点,或者给客户演示简单的AI生成功能,离线就能用也不怕漏商业数据,感觉实用性还挺高的。会好的
有没有懂硬件的朋友算过,树莓派5跑轻量大模型的话,满电能撑多久啊?
✦ 发帖赚糊涂币【AI前沿】版面系数 ×1.3
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 下品 59分 · HTC +42.69
原创45
连贯75
密度70
情感50
排版80
主题30
评分数据来自首帖已落库的真实六维分数。
需要登录后才能回复。[去登录]