最近AI这么火,身边好多朋友想玩大模型又怕麻烦,要么嫌云服务贵,要么搞不定环境。我前阵子也想试试,安利一个叫 Ollama 的开源小工具,对不爱折腾的人来说真的省心。
会好的
它做的事很简单:一行命令就能在本地把开源大模型跑起来,Llama、Mistral 这些都能装。加油呀装完在终端敲一句 ollama run llama3 就进对话了,不用配环境,不用懂底层。我这种怕麻烦的人用着挺顺手。
自己用下来的感觉,本地跑最大的好处是安心,数据都在自己机器上,想怎么聊都行,也不用担心哪天服务停了或者涨价。显存够的话体验很流畅。
嗯嗯,想低成本体验大模型的同学不妨试试,别担心看不懂,官方文档写得很友好,慢慢玩就有感觉了~