昨晚刷github trending给我看愣了,ollama那star曲线跟坐火箭似的,眼瞅着奔七八十万去了
6顺手clone下来玩了两天,真挺香。一行命令拉模型本地跑,没显卡也能折腾,对我这种只有旧笔记本的太友好了。以前本地跑模型得配半天环境,现在brew装完直接开聊,门槛砍到脚踝
这波暴涨我琢磨跟前阵子那几个开源小模型脱不了干系。模型一放出来,大伙儿第一反应就是往本地拽,隐私焦虑一上来谁都不想数据出本机。我去小模型越来越能打,本地部署从极客玩具变刚需了哈哈
就是文档还是稀碎,踩坑全靠扒社区帖子。开源这东西火起来容易,长长久久难,蹲个后续吧