怎么用Ollama本地部署DeepSeek模型?详细步骤

许南星
许南星
发布时间:2026-09-20 | 3人浏览过
原创

在本地运行大语言模型不再是高不可攀的技术挑战。借助 Ollama 这一轻量级工具,用户可以在个人电脑上快速部署 DeepSeek 等开源模型,无需复杂的容器配置或显卡驱动调试。这种部署方式不仅保护了数据隐私,还允许在无网络环境下进行文本生成和逻辑推理。

概述

Ollama 的核心优势在于其简洁的命令行接口和自动化的模型管理。它屏蔽了底层深度学习框架的复杂性,将模型下载、量化和服务启动封装为简单的指令。对于 DeepSeek 模型而言,Ollama 提供了经过优化的版本,能够根据硬件资源自动选择合适的精度运行。

Ollama 命令行界面与本地服务状态示意

Ollama 命令行界面与本地服务状态示意

关于【安装 Ollama】

在部署模型之前,需要先安装 Ollama 运行时环境。访问 Ollama 官方网站,根据操作系统选择对应的安装包。Windows 用户可直接下载 .exe 安装程序,macOS 用户可通过 .dmg 文件或 Homebrew 安装,Linux 用户则通常使用一行 curl 命令完成安装。

安装完成后,打开终端(Windows 为 PowerShell 或 CMD,macOS/Linux 为 Terminal),输入 ollama --version 验证安装是否成功。若返回版本号,说明环境已就绪。Ollama 会在后台启动一个本地服务,默认监听 11434 端口,这是后续所有交互的基础。

关于【拉取 DeepSeek 模型】

Ollama 维护了一个公开的模型库,DeepSeek 系列模型已在其中收录。在终端中执行以下命令即可开始下载:

ollama pull deepseek-r1:7b

这里的 deepseek-r1:7b 指定了模型名称和参数量。7B 代表 70 亿参数版本,适合大多数具备 8GB 以上显存的消费级显卡或现代 CPU 运行。如果硬件配置较高,可以选择 14b 或 32b 版本;若资源有限,也可尝试更小参数的蒸馏版本。下载进度会实时显示在终端中,取决于网络速度,可能需要几分钟到几十分钟不等。

终端中显示 DeepSeek 模型下载进度条

终端中显示 DeepSeek 模型下载进度条

关于【启动与对话】

模型下载完成后,即可通过 run 命令启动交互式会话。在终端输入:

ollama run deepseek-r1:7b

首次启动时,Ollama 会将模型加载到内存或显存中,这可能需要几秒到几十秒的时间。加载完成后,终端会出现提示符,用户可以直接输入问题。例如,输入“请解释量子纠缠的基本原理”,模型将在本地生成回复。

在对话过程中,可以按 Ctrl+C 中断当前生成,或输入 /bye 退出会话。所有交互均在本地完成,数据不会上传至云端,适合处理敏感信息或内部文档。

本地命令行中与 DeepSeek 模型进行对话

本地命令行中与 DeepSeek 模型进行对话

关于【基础配置与优化】

虽然 Ollama 默认配置已能良好运行,但用户可根据需求调整运行参数。例如,通过设置环境变量 OLLAMA_HOST 可以改变服务监听地址,允许局域网内其他设备访问。若需限制模型使用的 GPU 层数,可在运行前设置 OLLAMA_NUM_GPU 变量。

此外,Ollama 支持通过 Modelfile 自定义模型行为。用户可以创建一个新的 Modelfile,指定基础模型为 deepseek-r1:7b,并添加系统提示词(System Prompt)来规范模型的回答风格。例如,设定模型始终以专业工程师的口吻回答技术问题。创建完成后,使用 ollama create 命令生成自定义模型副本。

使用 Modelfile 自定义模型系统提示词

使用 Modelfile 自定义模型系统提示词

关于【API 调用集成】

除了命令行交互,Ollama 还提供了兼容 OpenAI 格式的 API 接口,方便开发者将其集成到现有应用中。本地服务启动后,可通过 HTTP POST 请求向 http://localhost:11434/api/generate 发送提示词。

以下是一个简单的 Python 示例,展示如何通过 requests 库调用本地 DeepSeek 模型:

import requests
import json

url = "http://localhost:11434/api/generate"
payload = {
    "model": "deepseek-r1:7b",
    "prompt": "写一首关于秋天的短诗",
    "stream": False
}

response = requests.post(url, json=payload)
result = response.json()
print(result['response'])

这种方式使得 DeepSeek 模型可以轻松嵌入到聊天机器人、代码助手或数据分析工具中,实现个性化的本地 AI 应用开发。

通过 Python 代码调用本地 Ollama API

通过 Python 代码调用本地 Ollama API

本站声明

本文内容仅供参考,不代表本站观点。转载或引用请注明出处。如发现内容问题,请通过联系我们页面反馈。

Python 相关产品和应用

全部下载

专题列表