幕僚云用户使用文档

open-webui-v0.6.5的安装与使用 ​

本案例是从muliao.com算力市场选择conda3_25.1.1_3.10.16-ubuntu22.04_12.6镜像创建的虚拟机

ollama使用官方linux部署脚本进行部署

open-webui使用docker进行部署

open-webui-v0.6.5镜像已在算力市场-北京三区上架，Ollama和OpenWebUI服务开机自启动，虚拟机创建完成后可直接使用公网ip:8890映射的外部端口进行页面访问。

安装Ollama ​

在Ubuntu 20.04上安装Ollama可以通过以下步骤完成：

执行如下命令进行Ollama安装，打开终端并执行命令。

curl -fsSL https://ollama.com/install.sh | sh
curl -fsSL https://ollama.com/install.sh | sh

返回如下提示，显示安装完毕。

bash
>>> Installing ollama to /usr/local
>>> Downloading Linux amd64 bundle
######################################################################## 100.0%
>>> Creating ollama user...
>>> Adding ollama user to render group...
>>> Adding ollama user to video group...
>>> Adding current user to ollama group...
>>> Creating ollama systemd service...
WARNING: systemd is not running
>>> NVIDIA GPU installed.
>>> The Ollama API is now available at 127.0.0.1:11434.
>>> Install complete. Run "ollama" from the command line.
>>> Installing ollama to /usr/local
>>> Downloading Linux amd64 bundle
######################################################################## 100.0%
>>> Creating ollama user...
>>> Adding ollama user to render group...
>>> Adding ollama user to video group...
>>> Adding current user to ollama group...
>>> Creating ollama systemd service...
WARNING: systemd is not running
>>> NVIDIA GPU installed.
>>> The Ollama API is now available at 127.0.0.1:11434.
>>> Install complete. Run "ollama" from the command line.

修改配置文件/etc/systemd/system/ollama.service，在[service]部分Environment后增加一行新的环境变量，以便其他服务可以直接访问ollama的api：

bash
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_HOST=0.0.0.0:11434"

启动ollama服务，并设置开机启动：

bash
systemctl status ollama 
systemctl start ollama 
systemctl enable ollama
systemctl status ollama 
systemctl start ollama 
systemctl enable ollama

修改配置文件，可以通过重启ollama生效

bash
systemctl daemon-reload 
systemctl restart ollama
systemctl daemon-reload 
systemctl restart ollama

拉取deepseek-r1:7b，验证ollama服务。

bash
ollama run deepseek-r1:7b
ollama run deepseek-r1:7b

ollama 默认模型存储位置在/usr/share/ollama/.ollama/models目录，如果系统盘空间较小，建议将 ollama 数据目录调整到其他可用空间更大的目录，避免系统盘空间不足。详细操作步骤请查看Ollama数据目录

查看ollama下载了哪些模型

ollama list
ollama list

安装Docker ​

由于本文是基于Docker环境部署open-webui，所以需要安装docker。

在Ubuntu 20.04上安装Docker可以通过以下步骤完成：

更新软件包索引

打开终端并执行命令以确保你的软件包索引是最新的。

bash
sudo apt-get update
sudo apt-get update

安装一些必要的软件包，以便apt能够通过HTTPS使用仓库：

bash
sudo apt-get install apt-transport-https ca-certificates curl software-properties-common
sudo apt-get install apt-transport-https ca-certificates curl software-properties-common

添加Docker的官方GPG密钥：

这一步是为了确保你从Docker下载的软件是安全可靠的。

bash
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -

设置稳定的仓库：

添加Docker的APT仓库到你的系统中。

bash
sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"
sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"

再次更新软件包索引：

因为你刚添加了一个新的仓库，所以需要再次更新软件包索引。

bash
sudo apt-get update
sudo apt-get update

从新添加的仓库中安装Docker CE：

现在你可以安装最新的Docker版本了。

bash
sudo apt-get -y install docker-ce
sudo apt-get -y install docker-ce

验证Docker是否安装成功：

安装完成后，运行下面的命令来确认Docker已经正确安装并且可以正常工作。

bash
sudo docker --version
sudo docker --version

（可选）修改docker的数据目录

默认docker的镜像和容器存储都在/var/lib/docker目录下，如果系统盘空间较小，建议将docker数据目录调整到其他可用空间更大的目，避免系统盘空间不足。详细操作步骤请查看Docker数据目录。

安装open-webui ​

基于Docker环境部署open-webui

bash
# 在/root目录下创建一个目录用于存储数据
mkdir open-webui

# 从GitHub Container Registry中提取最新的Open web Docker镜像（可选）
docker pull ghcr.io/open-webui/open-webui:v0.6.5

# 启动容器
docker run -d -p 8890:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v ~/open-webui:/app/backend/data \
  --name open-webui \
  -e RAG_EMBEDDING_MODEL="" \
  --restart always \
  ghcr.io/open-webui/open-webui:v0.6.5
# 在/root目录下创建一个目录用于存储数据
mkdir open-webui

# 从GitHub Container Registry中提取最新的Open web Docker镜像（可选）
docker pull ghcr.io/open-webui/open-webui:v0.6.5

# 启动容器
docker run -d -p 8890:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v ~/open-webui:/app/backend/data \
  --name open-webui \
  -e RAG_EMBEDDING_MODEL="" \
  --restart always \
  ghcr.io/open-webui/open-webui:v0.6.5

--add-host=host.docker.internal:host-gateway参数用于让docker访问到主机网络,通常Docker Desktop for Windows 和 Mac无须指定。

经过以上步骤，容器启动成功后，用公网ip:8890映射的外部端口27064进行页面访问，例如：140.210.92.250:27064

image-20250416142920590

查看docker启动了哪些容器

docker ps
docker ps

使用open-webui ​

进入管理员初始化页面，网页输入 http://140.210.92.250:27064，进入后点击[开始使用]

image-20250416144211202

注册管理员账户

image-20250208181932272

登录后可以直接使用；也可以点击头像，进入管理员面板进行自定义配置（可选）

image-20250416144500349

image-20250410220157277

image-20250414144250860