安裝 open-webui

https://openwebui.com

https://github.com/open-webui/open-webui

On WebUI 是一個可擴展、功能豐富且用戶友好的自託管 AI 平台,旨在完全離線運行。 它大型語言模型(LLM)運行器,如 Ollama 和與 OpenAI 兼容的 API,並內建檢索增強生成(RAG)推理引擎,提供強大的 AI 部署解決方案。 (onwebui.com)

主要特點:

  • 簡易安裝: 可通過 Docker 或 Kuberne 無縫安裝,支持 :olla:cuda 標籤的映像。
  • API 集成:輕鬆集成與 OpenAI 兼容的PI,提供多樣化的對話體驗。
  • 細粒度權限控 管理員可創建詳細的用戶角權限,確保安全的用戶環境。
  • 設計: 在桌面、筆記本和移動設備上提供無縫體
  • 漸進式 Web 應用(PWA): 在移動設備上提原生應用的體驗,支持離線訪問和流暢的用戶界面。
  • 完整的arkdown 和TeX 支持: 提供豐富動體驗。
  • 模型構建器: 通過 Web UI 輕鬆創建 Ollama 模型,添加自定義角色和代理,並通過 n WebUI 社區集成導入模型。 本地 RAG 集成: 在聊天中無縫集成文檔交互,支持直接加載文檔或添加文件到文檔使用 # 命令進行訪問
  • 網頁搜索: 使用多種搜索提供商進行網頁搜索結果直接注入聊天體驗。
  • 圖像生成集成:** 通過本地或外部選項無縫集成圖像生,豐富聊天體驗。
  • 型對話: 同時與多個模型交互,利用其獨特優勢最佳響應。
  • 基於角色的訪問控制(RBA: 確保安全訪問,僅授權人員可訪問 Ollama,且模型創建/拉取權限僅員。
  • 多語言支持: 提供國際化支持,邀請貢獻者擴展支持的語
  • 持續更新: 提供更新、修復和新功能。 開用,請參閱官方文檔中的快速入門指南。 (ds.openwebui.com)

有關更多信息,請訪問 Open WebUI 官方網站。 (openwebui.com)

錯誤表示您的 Python 環境由系統的套件管理器管理,為了避免系統不穩定,限制了直接使用 pip 進行全域套件安裝。為解決此問題,建議您採取以下方法:

1. 建立虛擬環境

過建立虛擬環境,您可以在不影響系統環境的情況下安裝所需的 Python 套件。是業界推薦的最佳實踐。
步驟如下:

  1. 保安裝了 venv 模組:
    sudo apt-get install python3-venv
2. 立虛擬環境:
   python3 -m venv ~/myenv
  1. 動虛擬環境:
    source ~/myenv/bin/activate
4. 虛擬環境中安裝所需套件:
   pip install open-webui
  1. 成後,您可以退出虛擬環境:
    deactivate
**2. 使用系統的套件管理器**

果您希望在系統範圍內安裝套件,建議使用系統的套件管理器(如 `apt`)來安裝對應的 Python 套件。而,並非所有的 Python 套件都在系統的套件庫中可用。
sudo apt-get install python3-open-webui

3. 使用 pipx 安裝應用程式

於命令列應用程式,您可以使用 pipx 來安裝,這樣可以在隔離的環境中管理它們。

  1. pipx
    sudo apt-get install pipx
2. 用 `pipx` 安裝應用程式:
   pipx install open-webui

注意,強制使用 pip 進行全域安裝(例如使用 --break-system-packages 選項)可能會導致系統不穩定或破壞系統的 Python 環境,因此不建議這樣做。
需更多資訊,請參閱 PEP 668 的詳細說明。

open-webui serve

http://localhost:8080/

Share:

More Posts