最近看身边人一个个给云端大模型续会员,我就琢磨,聊天这事儿咱能不能自己攥在手里。试了一圈托管方案,Open WebUI 是真顺手。
卧槽装起来简直没脾气,一条 docker 命令就拉起来了,底下直接对接 Ollama,本地模型即开即用。太!你要是已经跑着 OpenAI 兼容的服务,它也认,不用改什么配置。最关键的是数据全在自己机器上,不用乖乖上传给人家。
功能也没在凑数。多模型来回切、对话能开分支、文档问答自带 RAG,插件和函数调用都齐活,连语音和出图都给你内置了。说真的,这体验拿去跟那些商业产品比也不虚。
我比较在意的还是社区,星标涨得飞快,更新也勤,插件生态一天一个样。服了比起从零撸个前端,它把"私有 AI 助手"的门槛直接摁到了地板。省下的功夫,留着听张唱片不香吗。