• 宝塔面板如何通过Docker安装DeepSeek-R1

宝塔面板如何通过Docker安装DeepSeek-R1

2025-03-06 10:22:56 栏目:宝塔面板 171 阅读

此使用帮助适用宝塔面板9.4.0以上的版本(2025年2月6日后发布的滚动修复包,请修复面板后安装DeepSeek-R1)


写在前面,配置不满足运行模型会导致服务器卡死或无法访问,请正确选择服务器配置后部署!


各模型建议的服务器配置:

实测:

2c4g可以运行1.5b,想要更流畅的话建议到8g内存,此模型可以不需要GPU

8c16g可以运行7b/8b,此模型建议使用GPU运行,建议最少使用8G运存的GPU

其他模型尚未测试,欢迎补充~


腾讯云合作伙伴性能基准测试如下:

【1.5B模型:内存占用2G左右】

2c4g(S5):生成过程中,CPU占用100%

2c8g(S5):生成过程中,CPU占用100%

4c16g(S2):生成过程中,CPU占用100%

16c64g(SA2):生成过程中,CPU占用30~40%


【7B模型:内存占用7.6G左右】

4c8g(SA2):生成过程中,CPU占用100%

16c64g(SA2):生成过程中,CPU占用50%

复制代码



如何30秒安装一个DeepSeek-R1 AI模型?

* 首次安装可能需要1-20分钟,安装大模型服务套件总共需要下载5G以上,根据网络情况决定安装速度


如果您需要通过域名直接访问,请先到宝塔面板的【软件商店】安装Nginx,不需要域名访问则忽略


前往宝塔面板【Docker】-【应用商店】,点击DeepSeek-R1应用,点击安装即可

如果没显示DeepSeek应用,请点击右上角【更新应用列表】获取

如果需启用GPU支持,请参考此教程进行GPU设置:
https://github.com/ollama/ollama/blob/main/docs/docker.md

随后点击【已安装】应用的文件夹按钮,前往对应的应用目录

编辑docker-compose.yml文件,将第5-11行的注释去掉,保存

再回到【已安装】应用界面,将此应用重启即可启用GPU支持

【常见问题】
1、安装成功了,但无法看到DeepSeek界面,原因是什么?
安装部署完成后,软件首次启动需要花 2 - 10 分钟时间,启动完成后可以看到 Web 界面。

2、安装成功了,但是模型输出很慢,原因是什么?
模型可能会占用大量的资源(CPU/内存/GPU),如果无法正常使用,请切换低级别的模型使用。

3、部署成功后,模型访问提示500,原因是什么?

请检查服务器内存是否足以支撑模型运行,例如:1.5b的模型需要至少1.5GB的活动内存(具体信息请查看ollama容器的日志)

4、无法访问?
注意:应用不经过系统防火墙,如果您不填写域名,勾选【允许外部访问】后是直接允许外部访问,如果您是云服务器,勾选【允许外部访问】后,请到服务器安全组放行此数据库的端口

本文地址:https://www.yitenyun.com/88.html

搜索文章

Tags

数据库 API FastAPI Calcite 电商系统 MySQL Web 应用 异步数据库 数据同步 ACK 双主架构 循环复制 TIME_WAIT 运维 负载均衡 Deepseek 宝塔面板 Linux宝塔 Docker JumpServer JumpServer安装 堡垒机安装 Linux安装JumpServer esxi esxi6 root密码不对 无法登录 web无法登录 生命周期 序列 核心机制 SSL 堡垒机 跳板机 HTTPS HexHub Windows Windows server net3.5 .NET 安装出错 宝塔面板打不开 宝塔面板无法访问 HTTPS加密 查看硬件 Linux查看硬件 Linux查看CPU Linux查看内存 InnoDB 数据库锁 Oracle 处理机制 连接控制 机制 无法访问宝塔面板 ES 协同 监控 Windows宝塔 Mysql重置密码 Serverless 无服务器 语言 开源 PostgreSQL 存储引擎 技术 group by 索引 Spring Redis 异步化 分页查询 服务器 管理口 高可用 缓存方案 缓存架构 缓存穿透 SQL 动态查询 响应模型 自定义序列化 GreatSQL 连接数 数据 主库 SVM Embedding 日志文件 MIXED 3 云原生 服务器性能 SQLark PG DBA R edis 线程 Netstat Linux 服务器 端口 scp Linux的scp怎么用 scp上传 scp下载 scp命令 AI 助手 ​Redis 机器学习 推荐模型 向量数据库 大模型 工具 Undo Log 查询 Linux 安全 共享锁 openHalo OB 单机版 存储 SQLite-Web SQLite 数据库管理工具 Rsync Recursive 电商 系统 Postgres OTel Iceberg 架构 R2DBC • 索引 • 数据库 RocketMQ 长轮询 配置 聚簇 非聚簇 修改DNS Centos7如何修改DNS 数据分类 加密 磁盘架构 流量 同城 双活 sftp 服务器 参数 优化 万能公式 redo log 重做日志 信息化 智能运维 防火墙 黑客 Hash 字段 场景 MySQL 9.3 RDB AOF 人工智能 推荐系统 Ftp 数据备份 高效统计 今天这篇文章就跟大家 mini-redis INCR指令 MVCC 缓存 窗口 函数 业务 INSERT COMPACT 网络架构 网络配置 向量库 Milvus Redisson 锁芯 线上 库存 预扣 Doris SeaTunnel Python 事务 Java 开发 不宕机 Web PostGIS B+Tree ID 字段 IT运维 核心架构 订阅机制 prometheus Alert 引擎 性能 数据脱敏 加密算法 崖山 新版本 传统数据库 向量化 MongoDB 数据结构 数据类型 分布式 集中式 虚拟服务器 虚拟机 内存 ZODB 容器 容器化 DBMS 管理系统 filelock JOIN 读写 网络故障 模型 OAuth2 Token Canal QPS 高并发 Redis 8.0 微软 SQL Server AI功能 自动重启 Pottery 聚簇索引 非聚簇索引 发件箱模式 分库 分表 部署 锁机制 Entity Testcloud 云端自动化 事务隔离 SpringAI 分页方案 排版 工具链 排行榜 排序 速度 服务器中毒 Caffeine CP Web 接口 启动故障 1 数据页 悲观锁 乐观锁 StarRocks 数据仓库 SSH sqlmock 池化技术 连接池 Go 数据库迁移 MCP 开放协议 频繁 Codis LRU 原子性 数据集成工具 单点故障 大表 业务场景 Redka AIOPS 分页 意向锁 记录锁 网络 分布式架构 分布式锁​ Order 优化器 IT 仪表盘 dbt 数据转换工具 EasyExcel MySQL8 日志 字典 InfluxDB 对象 单线程 双引擎 RAG HelixDB 行业 趋势 事务同步 Ansible Crash 代码 国产数据库 LLM UUIDv7 主键 订单 线程安全 List 类型 Pump UUID ID 主从复制 代理 Valkey Valkey8.0 Next-Key 编程 关系数据库 语句 播客 解锁 调优 ReadView 产业链 兼容性 恢复数据 失效 MGR 分布式集群 数据字典 算法 国产 用户 查询规划 矢量存储 数据库类型 AI代理 千万级 快照读 当前读 视图 RR 互联网 GitHub Git 慢SQL优化 Weaviate count(*) count(主键) 行数 神经系统 表空间 分布式锁 Zookeeper 拦截器 动态代理 并发控制 恢复机制 CAS 多线程 技巧 闪回