百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文
【分享】在普通Windows电脑上部署DeePseek R1训练数据并共享服务

【分享】在普通Windows电脑上部署DeePseek R1训练数据并共享服务

  • 网站名称:【分享】在普通Windows电脑上部署DeePseek R1训练数据并共享服务
  • 网站分类:技术文章
  • 收录时间:2025-07-08 14:41
  • 网站地址:

进入网站

“【分享】在普通Windows电脑上部署DeePseek R1训练数据并共享服务” 网站介绍

如果您对源码&技术感兴趣,请点赞+收藏+转发+关注,大家的支持是我分享最大的动力!!!

一、Windows 版 DeepSeek-R1、Ollama 与 AnythingLLM 介绍及核心使用场景

一、组件功能与定位

  1. DeepSeek-R1
  2. 模型特性:支持 FP16 计算CUDA 加速,提供 1.5B 至 671B 参数量级版本,适用于本地部署的逻辑推理、文本生成、数据分析等场景。
  3. 优势:开源免费、响应速度快(本地低延迟),支持中文复杂任务处理。
  4. Ollama
  5. 核心功能:简化大语言模型本地部署流程,支持一键下载、运行和管理模型(如 DeepSeek-R1),提供命令行界面和灵活的环境变量配置。
  6. 特性:支持自定义安装路径(需修改系统变量)、多模型切换、离线运行。
  7. AnythingLLM
  8. 定位:全栈 AI 应用,集成本地大模型(通过 Ollama)与知识库,支持文档/音视频/网页内容转换为上下文数据,供 LLM 调用。
  9. 功能:私有化知识库构建、多工作区管理、模型与数据关联式问答。

二、核心使用场景

  1. 企业内部知识库与智能客服
  2. 场景:通过 AnythingLLM 上传企业文档(如产品手册、合同),结合 DeepSeek-R1 实现精准问答,替代传统人工客服。
  3. 优势:数据本地化存储(避免云端泄露)、支持多格式文件解析。
  4. 专业领域研究与分析
  5. 场景:科研人员使用 DeepSeek-R1 处理长文本(如论文、报告),生成摘要或提取核心结论;结合 AnythingLLM 训练领域专属模型。
  6. 案例:法律条文分析、医学文献结构化处理。
  7. 个人效率工具
  8. 场景周报生成:输入工作记录,由 DeepSeek-R1 自动整理成结构化周报。实时翻译:本地部署模型实现无网络环境下的多语言互译。个性化知识助手:导入个人笔记、电子书等资料,构建专属知识库,辅助日常学习决策。
  9. 开发与测试环境
  10. 场景:开发者通过 Ollama 快速切换不同参数量级的 DeepSeek-R1 版本,测试模型性能或调试应用兼容性。

二、本地下载安装部署

1、安装 CUDA Toolkit 步骤如下:https://developer.nvidia.com/cuda-downloads?target_os=Windows&target_arch=x86_64

  1. 不用显卡跳过此步骤
  2. 访问指定链接下载 CUDA Toolkit。请务必留意针对 Windows 系统的版本选项,如 Windows 10、Windows 11 等,并选择 “local” 本地安装类型,以获取最佳安装体验。
  3. 下载过程需登录 NVIDIA 账号。若您尚无账号,请提前完成注册流程,确保下载顺利进行。
  4. 完成 CUDA Toolkit 安装后,请重启计算机,以使所有配置更改生效,从而确保 CUDA Toolkit 能够正常运行。

2、Ollama 安装:https://ollama.com/

  1. 下载与安装:前往 Ollama 官方网站,获取 Ollama 安装程序。整个下载与安装流程十分简易,按照系统提示逐步操作即可轻松完成,在此便不展开详述。
  2. 后台运行检查:安装完成并启动 Ollama 后,该程序将在后台持续运行。您可通过查看电脑右下角的系统托盘区域,确认是否出现 Ollama 的 Logo 图标,以此判断 Ollama 是否已成功在后台启动并正常运行 。

3、通过Ollama安装模型:https://ollama.com/search

  1. 选择模型参数与获取安装命令:Ollama 的模型库涵盖了丰富多样的大语言模型,通过 Ollama 安装 DeepSeek - R1 模型的操作十分便捷。其模型库中的可用模型包括但不限于 DeepSeek - R1、Lamma3.3、qwq 等,用户可按需选择安装 。进入 DeepSeek - R1 模型集合,依照下方图示的顺序,选择合适的参数数量,然后复制对应的安装命令。
  2. 考虑硬件限制:需特别注意,GPU 显存大小(若仅使用 CPU,则考虑本地主机的内存)会限制可使用的模型大小。例如,拥有 16GB 显存的 GPU 能够运行 14B 的模型,而 24GB 显存的 GPU 则可以运行 32B 的模型。
  3. 执行安装命令普通电脑运行1.5b就可以,不用显卡。以本人为例,我选择了 14B 的模型。复制好命令后,打开 Powershell 并执行该命令,Ollama 会自动开始安装相应版本的 DeepSeek - R1 模型。你只需耐心等待命令运行结束,安装完成后即可使用该模型。
ollama run deepseek-r1:1.5b

Powershell 的终端中直接运行了,但是存在诸多不便之处。比如,难以对对话记录进行保存、搜索与管理,无法读取附件,并且无法集成本地知识库来实现检索增强生成等功能,极大地影响了用户体验。因此,强烈推荐大家安装一款本地 AI 应用用户界面,本文以 AnythingLLM 为例进行示范。

4、AnythingLLM 安装与配置:https://anythingllm.com/desktop

  1. 下载与安装:前往 AnythingLLM 官方网站获取安装程序并进行安装。
  2. 启动与设置:安装完成并启动 AnythingLLM 后,在设置中选择 “Ollama”(注意不是 “DeepSeek”)。
  3. 在设置中选择 “Ollama”(注意不是 “DeepSeek”)作为 LLM Provider。此时,AnythingLLM 会自动检测本地部署的大语言模型,从中选择 “deepseek - r1:14b”。然后一直点击右键。
  4. 创建工作区并开始对话:完成上述步骤后,创建一个 Workspace,随后即可开启与模型的对话之旅。
  5. 进行设置

  6. 保存设置

  7. 5、下载 embedding 模型步骤一:下载模型
    1. 打开命令行工具。
    2. 在命令行中输入指令 ollama pull nomic-embed-text,然后回车执行,等待模型下载完成。

  8. 步骤二:切换并保存模型设置
      1. 找到系统左下角的相关操作入口(扳手)。

      2. 切换到新下载的 nomic-embed-text embedding 模型。

      3. 切换完成后,点击 “保存更改” 按钮,确保设置生效。

6. 上传本地资料构建本地数据库

  1. 在工作空间页面中,找到并点击 “上传” 按钮。

  2. 依据实际需求选择上传方式:你既可以直接上传本地文件,也能够选择连接数据库以获取所需资料。
  3. 资料上传或数据库连接完成后,点击 “保存” 按钮,系统将自动对上传的资料进行向量化处理。
  4. 然后新建对话进行测试。

三、Windows 系统 Ollama 当服务器开放共享给其他人


一、配置环境变量开放访问权限

  1. 设置 OLLAMA_HOST 环境变量
  2. 右键点击「此电脑」→「属性」→「高级系统设置」→「环境变量」→「系统变量」→「新建」:变量名OLLAMA_HOST变量值0.0.0.0(允许所有网络接口监听请求)
  3. 若需同时解决跨域问题,可添加变量 OLLAMA_ORIGINS,值为 *

  4. 重启 Ollama 服务
  5. 退出任务栏的 Ollama 程序(右键图标→「Quit Ollama」),重新启动 Ollama 。
  6. 若配置未生效,建议重启系统 。

二、开放防火墙端口

  1. 通过命令行添加防火墙规则
  2. 以管理员身份运行命令提示符,执行以下命令:
  3. netsh advfirewall firewall add rule name="Ollama" dir=in action=allow protocol=TCP localport=11434
  4. (放行 Ollama 默认端口 11434
  5. 验证防火墙规则
  6. 检查端口是否放行成功:
  7. netsh advfirewall firewall show rule name="Ollama"
  8. (输出需包含 Enabled=YesAction=Allow

三、验证非本机访问

  1. 局域网设备测试
  2. 执行命令 ipconfig 查看本机 IPv4 地址(如 192.168.1.100)。
  3. 在其他设备的浏览器或命令行中访问:
  4. curl http://[Windows主机IP]:11434/api/tags
  5. (若返回模型列表,则配置成功)
  6. 可视化工具验证(可选)
  7. 使用 Open WebUI 或 LobeChat 等工具,输入 http://[Windows主机IP]:11434 作为 Ollama 服务地址进行连接 。

四、常见问题解决

  • 报错 Server connection failed
    检查环境变量 OLLAMA_HOSTOLLAMA_ORIGINS 是否配置正确,并重启服务 。
  • 端口占用或冲突
    使用
    netstat -ano | findstr 11434 确认端口未被其他进程占用 。

五、公网共享(可选)

  1. 内网穿透工具部署
  2. 使用 ngrok 将本地服务映射至公网:
  3. ngrok http 11434 # 映射 Ollama 服务
  4. 生成公网链接(如 https://xxx.ngrok.io)共享给外部用户。
  5. 域名绑定(高级)
  6. 若已备案域名,可通过路由器或云服务商配置端口转发,将域名指向服务器 IP。

注意事项

  • 开放 0.0.0.0 会暴露服务至公网,建议内网使用时结合 IP 白名单或 VPN 提升安全性 。
  • 若修改了模型存储路径(OLLAMA_MODELS),需确保目录权限允许网络访问 。
  • 内网穿透需谨慎暴露公网端口,建议配置 HTTPS 加密和 IP 白名单。
  • 定期清理 AnythingLLM 的无效文档,避免存储空间占用过高。



如果您对源码&技术感兴趣,请点赞+收藏+转发+关注,大家的支持是我分享最大的动力!!!