架构师_程序员_码农网

 找回密码
 注册[Register]

QQ登录

只需一步,快速开始

搜索
查看: 427|回复: 1

【AI】(四)使用 Open WebUI 调用 DeepSeek-R1 模型

[复制链接]
发表于 2025-2-6 21:21:14 | 显示全部楼层 |阅读模式
需求:使用 ollama 部署了 DeepSeek-R1 模型,需要使用一个对话工具来调用,终端只是用来简单的进行测试。可以安装 Open WebUI 面板来调用模型进行对话。

回顾:

【AI】(三)腾讯云使用 HAI 部署 DeepSeek-R1 教程
https://www.itsvse.com/thread-10931-1-1.html

Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 AI 平台,旨在完全离线运行。它支持各种 LLM 运行器(如Ollama)和与OpenAI 兼容的 API,并内置RAG 推理引擎,使其成为强大的 AI 部署解决方案。

GitHub 地址:https://github.com/open-webui/open-webui
文档:https://docs.openwebui.com/
环境变量配置:https://docs.openwebui.com/getting-started/env-configuration

Ubuntu 20.04 安装 Docker 容器

本文使用 Docker 部署 open-webui,首先需要安装 Docker 容器,安装命令如下:


Ollama 部署 deepseek-r1:32b 模型

执行如下命令:


Docker 部署 Open WebUI

由于我们本机已经安装了 Ollama,同时又在一台服务器上面,在 /data/open-webui 文件夹下面新建 compose.yaml 文件,内容如下:


执行如下命令,启动容器:


如下图:

QQ截图20250206210122.jpg

防火墙安全组规则放行 TCP 3000 端口,稍等片刻,然后使用浏览器访问,如下图:

QQ截图20250206210222.jpg

首次访问,设置管理员账户和密码等信息,如下图:

QQ截图20250206210243.jpg

测试 DeepSeek-R1 模型对话功能,如下图:

QQ截图20250206211700.jpg
(完)




上一篇:【AI】(三)腾讯云使用 HAI 部署 DeepSeek-R1 教程
下一篇:【AI】(五)打印输出 Ollama 请求信息
码农网,只发表在实践过程中,遇到的技术难题,不误导他人。
 楼主| 发表于 2025-2-19 09:09:00 | 显示全部楼层
类似前端大模型对话开源项目

NextChat:https://github.com/ChatGPTNextWeb/NextChat
Lobe Chat:https://github.com/lobehub/lobe-chat
Ollama LLM 的全功能 Web 界面:https://github.com/jakobhoeg/nextjs-ollama-llm-ui
码农网,只发表在实践过程中,遇到的技术难题,不误导他人。
您需要登录后才可以回帖 登录 | 注册[Register]

本版积分规则

免责声明:
码农网所发布的一切软件、编程资料或者文章仅限用于学习和研究目的;不得将上述内容用于商业或者非法用途,否则,一切后果请用户自负。本站信息来自网络,版权争议与本站无关。您必须在下载后的24个小时之内,从您的电脑中彻底删除上述内容。如果您喜欢该程序,请支持正版软件,购买注册,得到更好的正版服务。如有侵权请邮件与我们联系处理。

Mail To:help@itsvse.com

QQ|手机版|小黑屋|架构师 ( 鲁ICP备14021824号-2 )|网站地图

GMT+8, 2025-3-21 22:29

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表