大家好，我是 Ai 學(xué)習(xí)的老章

寫個小教程

Open WebUI

市面上大模型 chatbot 無數(shù)，我最喜歡的一直都是 Open WebUI

因?yàn)樗梢酝耆x線部署、支持OpenAI 兼容 API，并配備內(nèi)置推理引擎用于 RAG

https://github.com/open-webui/open-webui

我還很喜歡它的模型對比功能，多個模型對同一問題同時輸出結(jié)果

最良心的是，這個開源項(xiàng)目還支持身份認(rèn)證，可以直接對接 LDAP

順帶說一句，Qwen 的官方網(wǎng)頁就是基于 Open WebUI 修改的

離線部署

安裝 openwebui 是我見過所有 chatbot 中最簡單的了

# 安裝 pip install open-webui # 啟動 open-webui serve

瀏覽器打開 http://locahost:8080

如果是服務(wù)器部署，把 localhost 改為服務(wù)器 ip

正常注冊登陸

右上角點(diǎn)擊頭像，點(diǎn)擊管理員面板

點(diǎn)擊設(shè)置 - 外部鏈接，照著抄一下，api key 隨便填寫

然后回到前端，左上角添加模型那里就可以了

但是內(nèi)網(wǎng)一般無法聯(lián)網(wǎng)，大多公司可能連 pip 源都沒有

Docker 或許是最好的選擇

# 有網(wǎng)環(huán)境拉去鏡像，打包鏡像 docker pull ghcr.io/open-webui/open-webui:main docker save open-webui/open-webui:main > open-webui.tar docker load -i open-webui.tar -webui docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main

然后瀏覽器打開 http://ip:3000 就 OK 了，首次登錄可以設(shè)置管理員用戶和密碼

用戶對接

可以手動新增用戶，在設(shè)置-用戶中添加即可

一個一個添加太麻煩，還可以csv導(dǎo)入

也在管理員設(shè)置頁-通用-身份認(rèn)證里，打開允許新用戶注冊，右下角保存即可

其他用戶打開Open-WebUI，其他用戶就可以注冊了

甚至可以給不同的用戶設(shè)置不同的模型使用權(quán)限

如果公司有統(tǒng)一認(rèn)證系統(tǒng)，還可以做LDAP對接