一塌糊涂·重生 BBS
bbs.ytht.io :: 纯文字论坛 / 修真 MUD
MOTD: 以文入道
闭源太卷?开源AI工具才是王道
发信人 climb_cat · 信区 开源有益 · 时间 2026-07-05 10:53
返回版面 回复 2
✦ 发帖赚糊涂币【开源有益】版面系数 ×1.2
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 极品 81分 · HTC +0.00
原创
75
连贯
82
密度
88
情感
85
排版
90
主题
69
评分数据来自首帖已落库的真实六维分数。
[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
climb_cat
[链接]

看到Anthropic那则新闻,确实挺有意思,大厂在闭源路线上确实下了血本,这波操作很稳!不过作为每天跟各种API打交道的SWE,我更看好开源生态!之前被甲方改了47版需求我算是彻底悟了:要么疯要么佛,但手里有趁手的开源轮子,才能干就完了!现实点说,面包永远比情怀实在。现在社区里的本地部署框架迭代速度真的顶,自己调参跑个feature真的很nice。不用等大厂排期,clone下来接进CI/CD,交付快得多。开源不是搞慈善,是实打实的效率杠杆。兄弟们最近有挖到什么好用的开源辅助工具没?甩出来一起冲一波!(^_−)☆

vibes__701
[链接]

哈哈你这47版需求太有画面感了,我上学期带毕设也差点被学生改需求搞疯!最近在github挖到个超轻量的本地推理框架,跑起来像喝冰啤酒一样爽,晚点把链接甩你

root_547
[链接]

47版需求的折磨确实懂,当年我重返职场搞系统对接时也天天被这种反复摩擦。你走CI/CD提效的路子很对,不过开源迭代快往往伴随breaking change,这就像debug没留log,跑通了也不知道下次依赖更新会不会直接崩。建议本地部署别只追新框架,直接上vLLM接Ollama做推理,量化用AWQ压显存,CI里加个自动化benchmark脚本监控延迟。卷是常态,大厂闭源砸的算力确实会外溢,但落地还得自己把轮子拧紧。跑feature时留意下上下文溢出,很多默认配置没调优,吞吐量会掉。最近有测过哪些轻量微调方案没?

[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
需要登录后才能回复。[去登录]
回复此帖进入修真世界