Open WebUI本地部署教程

news/2025/2/25 3:20:51

文章目录

  • 1、系统环境配置
  • 2、源码下载
    • 2.1 github源码地址下载
  • 3、环境启动
    • 3.1 后端环境
    • 3.2 前端环境
  • 4、问题
    • 4.1 浏览器跨域问题
    • 4.2 all-MiniLM-L6-v2模型文件下载失败问题
    • 4.3 单独部署backend启动报错问题

1、系统环境配置

操作系统:windows/linux/macos
Python版本: Python 3.11+ (建议安装3.11版本,3.12及以上版本可能出现不兼容)
Nodejs版本:22.10.0 (建议安装22.11及以上版本)

2、源码下载

2.1 github源码地址下载

git clone https://github.com/open-webui/open-webui.git

3、环境启动

3.1 后端环境

进入 open-webui\backend 目录下,执行以下命令进行依赖安装

pip install -r requirements.txt

如果是本地测试,需修改open-webui\backend\open_webui\config.py文件中的CORS_ALLOW_ORIGIN参数,否则可能会出现跨域问题

# CORS_ALLOW_ORIGIN = os.environ.get("CORS_ALLOW_ORIGIN", "*").split(";")
CORS_ALLOW_ORIGIN = os.environ.get("CORS_ALLOW_ORIGIN", "http://localhost:5173").split(";")

windows环境下运行start_windows.bat 文件,Linux环境下执行sh start.sh命令

3.2 前端环境

进入 open-webui根目录下,创建环境配置文件
重命名.env.example 为.env
修改模型仓库地址:
OLLAMA_BASE_URL=‘此处替换为要使用的仓库地址,例如:http://10.57.149.9:11434’
最后执行以下命令

npm install
npm run dev 

浏览器中访问http://localhost:5173/即可

4、问题

由于部分依赖需要从外网环境下载,因此部署前尽量解决网络问题

4.1 浏览器跨域问题

使用chrome进行测试时可能会出现logo之类静态文件无法加载问题,可以在谷歌应用商店中安装Allow-Control-Allow-Origin,打开之后即可解决,firefox浏览器没有此类问题
在这里插入图片描述
在这里插入图片描述

4.2 all-MiniLM-L6-v2模型文件下载失败问题

执行脚本命令后,会自动从huggingface.co下载sentence-transformers模型文件all-MiniLM-L6-v2,服务器在国外,无法下载,所以先从国内镜像网站上(https://hf-mirror.com/)将模型和配置文件下载到本地。
在这里插入图片描述
修改open_webui/retrieval/utils.py文件

# model_repo_path = snapshot_download(**snapshot_kwargs)
# 替换为本地文件路径
model_repo_path = r'D:\code\code\arkham\all-MiniLM-L6-v2'

4.3 单独部署backend启动报错问题

启动backend时会去当前执行脚本所在目录的上一级去读取CHANGELOG.md(CHANGELOG.md文件在下载源码包的根目录下)文件,文件读取不到则会去当前工作目录下backend/open-webui/寻找,还是找不到则会抛异常,解决方法是将CHANGELOG.md拷贝到backend/open-webui/目录下即可
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述


http://www.niftyadmin.cn/n/5864947.html

相关文章

【NLP算法面经】本科双非,头条+腾讯 NLP 详细面经(★附面题整理★)

【NLP算法面经】本科双非,头条腾讯 NLP 详细面经(★附面题整理★) 🌟 嗨,你好,我是 青松 ! 🌈 自小刺头深草里,而今渐觉出蓬蒿。 NLP Github 项目推荐: 【AI…

工程师 - VSCode的AI编码插件介绍: MarsCode

豆包 MarsCode MarsCode AI: Coding Assistant Code and Innovate Faster with AI 豆包 MarsCode - 编程助手 安装完成并使能后,会在下方状态栏上显示MarsCode AI。 安装完并重启VSCode后,要使用这个插件,需要注册一下账号。然后授权VSCod…

多人协同创作gitea

多人协同创作gitea 在多台设备上协同使用Gitea,主要是通过网络访问Gitea服务器上的仓库来进行代码管理和协作。以下是一些关键步骤和建议,帮助你在多台设备上高效地使用Gitea进行协作: 1. 确保Gitea服务可访问 首先,你需要确保…

JAVA版本游戏进程读写操作

1.导入游戏进程读写Maven依赖 <dependency><groupId>io.github.2lius</groupId><artifactId>MemoryProcess</artifactId><version>0.1</version></dependency> GitHub地址 2.代码操作游戏读写内存 package com.lius.test;impo…

Linux 权限系统和软件安装(二):深入理解 Linux 权限系统

在 Linux 的世界里&#xff0c;权限系统犹如一位忠诚的卫士&#xff0c;严密守护着系统中的文件与目录&#xff0c;确保只有具备相应权限的用户才能进行操作。与其他一些操作系统不同&#xff0c;Linux 并不依据文件后缀名来标识文件的操作权限&#xff0c;而是构建了一套独特且…

DeepSeek 与后端开发:AI 赋能云端架构与智能化服务

&#x1f4dd;个人主页&#x1f339;&#xff1a;一ge科研小菜鸡-CSDN博客 &#x1f339;&#x1f339;期待您的关注 &#x1f339;&#x1f339; 1. 引言 随着人工智能&#xff08;AI&#xff09;技术的快速发展&#xff0c;后端开发正经历一场深刻变革。从传统的 REST API 到…

ChatGPT各模型版本对比分析

文章目录 1. GPT-3.5&#xff08;2022年11月&#xff09;2. GPT-4&#xff08;2023年3月&#xff09;3. GPT-4o&#xff08;2024年5月&#xff09;4. GPT-4o mini&#xff08;2024年7月&#xff09;5. o1系列&#xff08;2024年9月至12月&#xff09;6. o3-mini&#xff08;202…

从网络基础到安全防护:网安运维小白的入门学习路线

今天的主题是给网络安全运维小白的学习建议。 事情是这样的&#xff0c;最近有一位想学网安&#xff08;偏向网络运维&#xff09;的新手小白询问我学习的方向和建议。我建议他可以从网络和Linux入手。后来他问了一个我认为非常有价值的问题&#xff1a;“网络部分到底是指什么…