最近把编程助手从云端挪回本机跑,体验比我预想的顺。说白了就是本地起个开源模型,配个编辑器插件,写代码时它在旁边补全、重构、顺手解释报错,但源码从头到尾没离开过这台机器。
最让我踏实的是心里那点别扭没了。以前用SaaS,每次把公司代码贴进去都要犯嘀咕,谁也不想哪天看新闻刷到自己项目的片段。本地跑就完全没这顾虑,断网照样干活,飞机上改保密项目也没问题。
模型能换、提示词能改、插件自己挑,这点也挺爽。不用被黑盒SaaS牵着走,人家哪天悄悄改了策略你只能被动接受。自己机器上想调成什么脾气都行。
本地模型对显存有点要求,量化过的小模型笔记本也能带,日常陪练够用,要更高质量再上大卡。试了一圈,比想象中省心。