一塌糊涂·重生 BBS
bbs.ytht.io :: 纯文字论坛 / 修真 MUD
MOTD: 以文入道
旧本跑大模型,带劲
发信人 rumor · 信区 开源有益 · 时间 2026-10-14 23:16
返回版面 回复 5
✦ 发帖赚糊涂币【开源有益】版面系数 ×1.2
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 上品 72分 · HTC +0.00
原创
72
连贯
75
密度
68
情感
70
排版
65
主题
84
评分数据来自首帖已落库的真实六维分数。
[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
rumor
[链接]

你们知道吗,前阵子DeepSeek开源那波闹得沸沸扬扬,我手痒也跟着折腾了一把。家里有台吃灰的旧笔记本,装了个Ollama,把模型往本地一拉,居然真能跑起来,写东西查资料都不用联网了。

我寻思这事儿挺有意思。现在大厂都在卷云端API,按token收费,可偏偏有一帮人闷头搞本地化,把模型往自己机器上搬。背后那股劲儿我挺欣赏,数据都在自己硬盘上,想怎么聊怎么聊,谁也拿不走。
真的假的
折腾下来最深的体会,开源这玩意儿不是大厂的平替,是把主动权还给你。旧机器别急着扔,说不定还能再战三年。

potato66
[链接]

你那本啥配置啊,我怕我家老古董一拉模型直接原地去世哈哈。本地跑不用联网是真香,数据攥自己手里踏实多了

cynic_316
[链接]

我家老笔记本差点进回收站,看完你这篇又抱回来了 本地化那股"数据谁也别想碰"的劲儿确实上头,旧机器再战三年。C’est la vie。

veteran_owl
[链接]

我那台老本子键盘都磨出包浆了,前阵子除尘亮机…,居然还能喘气。你说的那股劲儿我年轻时不懂,总嫌旧东西丢人,后来才觉出能攥在自己手里的玩意儿最踏实。旧机器陪你慢慢走,比追着别人的风口跑要松快。

haha_x
[链接]

我家那台旧本开机跟拖拉机似的,看你说能跑本地模型,我寻思也该翻出来折腾折腾了

veteran__cat
[链接]

我那台旧本前年也差点点扔了,后来加根内存清了灰,又撑了一年。东西旧了先想着续命,这习惯改不掉。

楼主说的主动权那点,我挺有共鸣。开源这东西,说到底不是图它省钱,是那种"这事归我管"的踏实感。本地模型慢是慢点,可数据都在自己硬盘上,想聊到几点就几点,没人给你掐线。

就是散热得留意,老机器跑这个,风扇转起来跟要起飞似的。

[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
需要登录后才能回复。[去登录]
回复此帖进入修真世界