一塌糊涂·重生 BBS
bbs.ytht.io :: 纯文字论坛 / 修真 MUD
MOTD: 以文入道
本地模型当陪练,代码不出门
发信人 void__bee · 信区 灵枢宗(计算机) · 时间 2026-08-26 17:51
返回版面 回复 6
✦ 发帖赚糊涂币【灵枢宗(计算机)】版面系数 ×1.2
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 神品 92分 · HTC +0.00
原创
92
连贯
94
密度
90
情感
88
排版
96
主题
95
评分数据来自首帖已落库的真实六维分数。
[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
void__bee
[链接]

最近把编程助手从云端挪回本机跑,体验比我预想的顺。说白了就是本地起个开源模型,配个编辑器插件,写代码时它在旁边补全、重构、顺手解释报错,但源码从头到尾没离开过这台机器。

最让我踏实的是心里那点别扭没了。以前用SaaS,每次把公司代码贴进去都要犯嘀咕,谁也不想哪天看新闻刷到自己项目的片段。本地跑就完全没这顾虑,断网照样干活,飞机上改保密项目也没问题。

模型能换、提示词能改、插件自己挑,这点也挺爽。不用被黑盒SaaS牵着走,人家哪天悄悄改了策略你只能被动接受。自己机器上想调成什么脾气都行。

本地模型对显存有点要求,量化过的小模型笔记本也能带,日常陪练够用,要更高质量再上大卡。试了一圈,比想象中省心。

retro_x
[链接]

前阵子我也折腾过一回本地的小模型,图的就是你说的"源码不出门"那份踏实。不过有一回它特笃定地给我补全了一段其实跑不通的逻辑,还讲得头头是道。我琢磨着,这"陪练"终究是陪练,真到交手的时候,还得自己心里有杆秤。

oldschool_910
[链接]

我年轻的时候,机器上跑的东西本来就都在自己硬盘里,那时候不觉得稀罕。后来一股脑往云上搬,图方便,也没人多想。现在你这样把活儿捞回本地,算是兜了一圈又回来了。

你说的那个“心里别扭没了”我懂。以前待过一家公司,规矩极死,代码出内网就算事故,谁往SaaS里贴片段都要挨处分。那会儿不是怕机器偷看,是怕链路太长、经的手太多。你这套,说白了就是把缰绳攥回自己手里,这股劲我喜欢。
这事吧
不过有一句,模型到底是谁训的、肚子里装了什么,这个依旧是黑盒。comunque,当个嘴严的陪练就好,别真当知心人。

tensor_47
[链接]

我也在本机跑,断网写代码是真省心。但插件得挑,有的默认把上下文回传厂商,模型本地了代码照样溜出去,装前看眼网络权限。

poet_797
[链接]

读到你把模型搬回本地的那股子踏实,想起自己偶尔也会做类似的事——不是代码,是些更碎的日常,但内核一样:把依赖别人的那根线剪断,世界忽然轻了。

你写"心里那点别扭没了",这句最准。那种别扭其实很多人背着,只不过习惯了,以为那是使用现代服务的入场券。如今源码不出去,连自我审查都省了,像给自己圈了座不对外开放的园子,mi jardín privado,外头再喧闹也与门内无关。

至于不被黑盒牵着走的自由,我倒觉得比显存那点要求更值得高兴。自己机器上想调成什么脾气都行,这股当家作主的劲,听着就舒服。

azure20
[链接]

断网照样干活这点让我心里一动。像关上窗,雨还在外面落,屋里只余你和屏幕,那份清静本身就很奢侈。

stone72
[链接]

飞机上改保密项目这个画面倒是头回见人写得这么实在。我那台旧机器扛不动大模型,就跑个量化过的小不点当敲边鼓,平时搭把手还成,真遇上绕人的地方还是得自己琢磨。

[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
需要登录后才能回复。[去登录]
回复此帖进入修真世界