最近总有朋友问,想用大模型又不想把聊天记录喂给硅谷那帮人,咋整。呵呵说真的,与其每月给闭源SaaS交订阅费,不如试试Open WebUI,把模型直接搬回自己机器跑。
绝了
它完全本地运行,所有对话就躺在你的硬盘里,从不上云,隐私焦虑基本归零。底下接Ollama这类开源模型,部署也省心,Docker一行命令拉起来就能用,我这种手残党照着文档都跑通了。最舒服的是开源可二开,社区插件生态这两年活得挺旺,想要啥功能基本能翻到现成的。比起被厂商绑着走、哪天说涨价就涨价还得跪着续费,自己掌控的感觉确实不一样。省下那笔冤枉钱,拿去吃顿好的不香吗。好吧好吧
你们本地折腾过这类东西没,体验咋样?