基于1Panel的DeepSeek本地部署教程

一、环境准备

  1. 服务器要求

    • 系统:Linux(推荐Ubuntu 22.04)

    • 配置:NVIDIA显卡(显存≥16GB)+ 内存≥32GB

    • 安装Docker及NVIDIA驱动

  2. 安装1Panel

    curl -sSL https://resource.fit2cloud.com/1panel/package/quick_start.sh -o quick_start.sh && sudo bash quick_start.sh
    

二、通过1Panel部署Ollama

  1. 创建应用

    • 进入1Panel「应用商店」

    • 搜索并部署 ollama/ollama 官方镜像

    • 配置参数:

      volumes:
        - /opt/ollama:/root/.ollama
      environment:
        - NVIDIA_VISIBLE_DEVICES=all
      runtime: nvidia
      
  2. 安装DeepSeek模型

    • 进入容器终端执行:

    ollama pull deepseek-r1:70b
    

三、部署Open WebUI

  1. 自定义部署配置

    image: ghcr.io/open-webui/open-webui:main
    ports:
      - 3000:8080
    environment:
      - OLLAMA_API_BASE_URL=http://ollama:11434
    depends_on:
      - ollama
    
  2. 网络配置

    • 确保两个容器处于同一Docker网络

四、访问验证

  1. 浏览器访问 http://[服务器IP]:3000

  2. 创建账号后选择 deepseek-r1:70b 模型

五、高级配置

  1. 性能优化

    ollama run deepseek-r1:70b --num_gpu 1 --num_thread 8
    
  2. 安全设置

    • 在1Panel配置HTTPS证书

    • 开启身份验证白名单

常见问题

  1. 显存不足报错

    • 尝试量化版本:ollama pull deepseek-r1:70b-q4_K_M

  2. API连接失败

    • 检查容器网络策略

    • 验证Ollama服务状态:

    curl http://localhost:11434/api/tags
    

注:部署过程需保持网络畅通,首次模型下载可能耗时较久(约20分钟)。建议通过1Panel实时监控容器资源占用情况。

消息盒子

# 暂无消息 #

只显示最新10条未读和已读信息