属于大家的
VPS知识分享站

Open WebUI 部署:日本节点统一多模型入口

ChatGPT 一个页面、Claude 一个页面、本地 Ollama 又一个页面,团队里每个人存的提示词都不一样。Open WebUI 解决的就是这种散:一个入口接多个模型,账号、历史、提示词都放在自己机器上。

Open WebUI 是什么

Open WebUI 是自托管的 LLM 聊天界面,兼容 Ollama 和 OpenAI 接口,支持多用户、对话历史、提示词模板、文件上传和 RAG。它不提供模型,只做前端和会话管理。

Docker 部署

docker run -d --name open-webui \
  --restart=unless-stopped \
  -p 3000:8080 \
  -v /data/open-webui:/app/backend/data \
  -e OLLAMA_BASE_URL=http://127.0.0.1:11434 \
  ghcr.io/open-webui/open-webui:main

数据都在 /app/backend/data,包括 SQLite、上传文件和配置;这个目录必须单独备份。

接多个模型

Open WebUI 可以把 Ollama 当默认后端,也可以在设置里加 OpenAI 兼容接口:

  • Ollama:填 http://127.0.0.1:11434
  • vLLM:填 http://模型地址:8000/v1,Key 随便填或按你的网关
  • 云端 API:填官方 Base URL 和 Key

不同模型可以在界面里切换,别把 Key 写在前端,统一放服务端环境变量。

登录门与多个模型面板
关公开注册,按组授权。

账号和权限

第一次启动会创建管理员,之后在管理面板开关注册。生产环境建议:

  1. 关闭公开注册,管理员手动建号
  2. 按团队分用户组,限制模型访问
  3. 普通用户不给管理员权限
  4. 开启登录审计,定期清理离职账号

HTTPS 和反代

server {
    listen 443 ssl;
    server_name chat.example.com;
    client_max_body_size 50m;
    location / {
        proxy_pass http://127.0.0.1:3000;
        proxy_set_header Host $host;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection "upgrade";
    }
}

WebSocket 要透传,否则流式输出会断;上传文件限制给足,不然知识库传不上去。

服务器岛与聊天气泡
数据目录单独备份,升级别跟 latest。

日本节点延迟

Open WebUI 本身很轻,延迟主要来自模型。日本节点对大陆用户友好,适合做统一入口;模型可以在日本本地,也可以转到美国。

  • 日本:大陆访问延迟低,适合前台聊天
  • 美国:模型多、成本低,适合后台批处理
  • 香港:延迟最低,适合纯入口和反代

如果模型也在日本,首 token 会明显快;如果模型在美国,入口放日本仍然比放美国好,因为用户到入口这一段短了。

日本岛屿节点连接模型面板
入口放日本,模型可以在别处。

存储和备份

对话历史、上传文件、账号都在数据目录。备份策略:

tar czf openwebui-$(date +%F).tar.gz -C /data open-webui
# 数据库也可以单独导出
sqlite3 /data/open-webui/webui.db ".backup '/backup/webui.db'"

升级前先备份,镜像用固定 tag,别长期跟 main。

和 LibreChat 的区别

两者都是自托管聊天界面,Open WebUI 和 Ollama 集成更顺,LibreChat 的多模型配置更灵活;选一个用熟,别同时维护两套。

模型路由

不同模型按场景分:便宜的跑日常问答,贵的跑复杂任务;在界面里让用户选,别默认全走最贵的。

移动端

手机浏览器能用,但流式输出和上传体验一般;要长期用,配好 HTTPS 和 PWA,别直接暴露 3000 端口。

提示词

把常用提示词做成模板,团队共享;别让每个人复制粘贴,版本一乱回答就飘。

日志

记录登录、模型调用和错误;对话内容是否留存要按隐私政策决定,别默认全存。

升级

镜像用固定版本,升级前备份数据目录;跨版本先看 release notes,别直接 latest。

账号安全

强密码、2FA、登录限流;管理员账号单独用,别和日常账号混。

性能

界面本身不重,慢通常在模型;把入口和模型分开部署,排查更快。

团队协作

共享提示词和模型配置,但对话历史按用户隔离;别把管理员账号当公共账号用。

监控

看登录失败、模型错误率和响应时间;入口挂了,用户第一时间能感知。

入口越简单越好,模型和权限放后面,别让用户先学一套配置。

先把入口和账号跑稳,再谈多模型和高级功能。

别小看账号和备份,出事时它们比模型更关键。

入口稳定,团队才愿意用;功能再多,登录不上都白搭。

少即是多,先让团队用起来。

团队用得上,才算部署成功。

先把入口跑稳,再谈模型。

入口稳,团队才用得下去。

这样才用得下去啊。

常见问题 FAQ

Q1:Open WebUI 和 Ollama 有什么区别?

Ollama 是模型运行时,Open WebUI 是聊天界面和账号系统;两者配合用。

Q2:能多人用吗?

能。关公开注册、手动建号、分组授权;别让所有人共用一个管理员账号。

Q3:日本节点合适吗?

大陆用户为主就合适;模型放美国时,注意模型调用那一段延迟。

Q4:要多大配置?

2 核 4G 能跑,模型在别处更省;本地跑模型另算显存。

Q5:数据会被上传吗?

自托管默认在你自己机器;接云端 API 时,对话内容会发给模型厂商,按数据合规评估。

总结

Open WebUI 的价值是统一入口和账号体系:Docker 起服务、接 Ollama/vLLM、关公开注册、配 HTTPS,日本节点做前台。数据目录单独备份,升级别跟 latest。

需要一台入口机器,不想一次买断,先按小时开一台萤光云日本 VPS,先把多模型和账号跑通。

参考来源

相关推荐

赞(0)
未经允许不得转载:VPS知识分享站 » Open WebUI 部署:日本节点统一多模型入口