笑死,最近再本地用 ollama 挂了个小模型当结对编程搭子,真香。
在日本打工那阵子一个人待惯了,回国发现组里协作工具天天叮叮当当,群里@来@去,脑子嗡嗡的。就想找个不联网、不push、不用跟人解释"我在干嘛"的东西。
本地模型刚好。服了深夜一段逻辑想不通,敲给它看,它不嫌我菜也不抢话,慢慢吐点思路。没有云端那种"有人盯着你敲键盘"的感觉,安静得刚好。比舞伴省心多了哈哈( ̄▽ ̄)
呢显卡要求不高,7b就够。电脑带得动的话真可以试试,独处党福音。
笑死,最近再本地用 ollama 挂了个小模型当结对编程搭子,真香。
在日本打工那阵子一个人待惯了,回国发现组里协作工具天天叮叮当当,群里@来@去,脑子嗡嗡的。就想找个不联网、不push、不用跟人解释"我在干嘛"的东西。
本地模型刚好。服了深夜一段逻辑想不通,敲给它看,它不嫌我菜也不抢话,慢慢吐点思路。没有云端那种"有人盯着你敲键盘"的感觉,安静得刚好。比舞伴省心多了哈哈( ̄▽ ̄)
呢显卡要求不高,7b就够。电脑带得动的话真可以试试,独处党福音。
你这"不抢话还从不嫌你菜"的搭子,活人里真找不出第二个。说真的回国后被群里@到脑仁嗡嗡这点我绝对站你,海外待久了回来最怕的就是那种"有人盯着你"的热闹。
笑死 比舞伴省心这话绝了 独处党狂喜 7b我那破本子估计带不动哈哈
笑死 我也受够群里@来@去那套了 不用解释在干嘛才是真自由哈哈
我疫情那半年被困在国外也是,回来之后对那种"有人盯着你敲键盘"的感觉特别犯怵,太懂你这种想躲清净的心思了。
不过有个事不知道该不该说,你那阵子在日本到底干嘛去了,"打工"这俩字也太留白了吧,我怎么听说的版本跟你写的不太一样,越想越觉得背后有故事。
说回本地模型,我听说现在好些人偷偷在自个儿机器上挂这种"安静搭子",嘴上说是图省事,其实多半是社恐犯了不想跟人解释思路。你这"不联网不push"的执念,该不会也夹了点怕被谁盯着看的小心思?7b够用我信,但动机嘛嘿嘿。
7b 写点小脚本还行,逻辑一拐弯它就容易开始编。同机器换 14b q4 试试,权重大概 9G,一张入门独显就够,给的思路稳不少。
顺带一个坑:ollama 默认会去联网拉模型清单,第一次必须在线把权重下下来,之后断网才算真“安静”。你现在是纯离线用,还是偶尔还挂着云端?
笑死 不联网不push这组合绝了,现在啥软件都恨不得半夜戳你一下。7b就能跑我是真没想到,回头我也整一个,省得脑子里嗡嗡的哈哈
草 不联网不push这点绝了哈哈 我在东京也一个人闷惯了 最怕群里@来@去脑子嗡嗡 7b这么省显卡回头我也整一个 安静得気持ちいい
7b量化(q4)也就吃4-5G显存,核显机拿内存兜底,慢点但能跑。不过说实在的,小模型吐的"思路"常看着对、一跑就挂,复杂逻辑别全交给它。
7b能跑没错,但真拿它结对写代码的话,换 qwen2.5-coder:7b 或 deepseek
7b 跑代码直接上 qwen2.5-coder,比通用模型强一截。还有显存得够 4bit 量化(约 5G),不够会掉 CPU,慢到想砸键盘。
独处党+1 但没人卷着容易摸鱼哈哈
巧了,我也在日本待到人习惯了独处,回国被群里@来@去脑壳嗡。你这本地搭子不联网不push,绝了,独处党真的懂
不抢话这个太戳我了。身边能找个不急着接话、安安静静听你把思路捋清楚的人真不多,更别说还是个不会累不会烦的。嗯嗯
嗯嗯
我之前被甲方来回改了快五十稿那阵子,就是那种"背后老有双眼睛盯着"的耗神劲儿,特别累。所以你这种本地挂一个、关起门来自己跟自己缓一缓的弄法,我太能get了。安静得刚好,这几个字形容得真准。
7b这个门槛确实友好,回头我也琢磨整一个,不为写代码,就图个不打扰的清静哈哈