使用Ollama本地化部署DeepSeek

来源: https://www.ucloud.cn/yun/131185.html 作者: UCloud 产品专家 发布日期: 发布于2025-02-07 13:40

DeepSeek-R1-32B-WebUI

DeepSeek-R1采用强化学习进行后训练，旨在提升推理能力，尤其擅长数学、代码和自然语言推理等复杂任务，该镜像安装和使用 Ollama 和 Open WebUI，以便更好地利用深度学习模型进行推理和交互。

第一步：登录「优云智算」算力共享平台并进入「镜像社区」

地址：https://www.compshare.cn/?ytag=seo

第二步：选择「DeepSeek-R1-32B」镜像，点击「使用该镜像创建实例」

镜像地址：https://www.compshare.cn/images-detail?ImageID=compshareImage-17j1nrwtdmid

根据镜像说明中的引导，选择所用模型需要的GPU算力规格，并点击「立即部署」即可拥有一个自带模型的算力资源。

第三步：进入JupyterLab启动服务

运行 Ollama

在终端中执行以下命令以启动 Ollama 服务：

ollama serve

运行模型（可选）

接下来，您可以安装并运行指定的深度学习模型。以下是安装和运行 deepseek-r1:32b 模型的命令：

ollama run deepseek-r1:32b

启动 Open WebUI

启动 Open WebUI 服务，指定端口和主机：

open-webui serve --port 6080 --host 0.0.0.0

用户名和密码设置

访问机器外网IP:6080，在启动Open WebUI 后，您需要设置用户名和密码。请按以下步骤进行设置：

创建用户名和密码，均设置为 123。邮箱为：pony@123.com

以上是优云智算平台支持的DeepSeek系列模型，优云智算镜像社区仍在不断更新DeepSeek系列镜像，更有海量AI行业镜像等你来体验，现在注册实名可得20算力金，免费体验10小时4090！