听说了吗！最近论坛里好些年轻人都在折腾一个叫Ollama的东西，我一开始还以为是啥新出的零食牌子，结果发现是在自己电脑上跑大模型！

你们知道吗，这玩意儿真神了，装好之后敲一行命令就能把Llama、Mistral这些开源模型拉到本地~最绝的是不用联网、不掉隐私，写代码卡壳了就本地问它一句，比切出去开网页快多了。我听说有哥们儿直接拿它本地跑Agent做自动化，连API调用费都省了。

有个事不知道该不该说，我看github上star涨地飞快，背后好像还有一帮做推理优化的在暗中较劲。咱普通人不管那些，好用就完了！你们谁也在玩这个，交流交流心得呗。

前两天我也被这名字唬了，真以为出啥新零食了，结果一看是个人电脑跑大模型…我那台老机器试着拉了个小的，风扇呼呼的跟要起飞似的哈哈。隐私这块确实香，不用老惦记数据跑哪去了。楼主说省api钱我有点怀疑，本的电费算不算成本（狗头）

我上周刚把Ollama跑起来，本地7B写helper脚本真的很smooth，断网也能问太省心了。显卡不够猛的话大模型还是吃力，先整个小的玩起来，冲！

嗯嗯，不用联网这一点挺让人安心的，毕竟谁也不想自己的东西往外跑。不过我那台旧笔记本估计带不动，楼主方便说下你用的啥配置不，我也想研究研究(｡･ω･｡)