OLLAMA+ChatBox+DeepSeek-R1本地环境快速搭建

AI 时代程序员必备技能

Codex、Claude Code、Cursor、Hermes Agent、OpenClaw等工程化实战专栏 ,讲透 AI 如何接管脏活累活

背景说明: 最近很火的DeepSeek-V3和DeepSeek-R1不用多说了, 用过的都说好, 刚好去年搭了一台服务器(参考: 【Linux环境配置】EPYC7642双路服务器Ubuntu22.04安装配置纪要 ), 可以用来本地构构建一个机器人来辅助日常的使用,且安全靠谱;
本文特点: 重点在于方便国内用户快速搭建,解决网络缓慢等诸多限制, 其他未提事宜请上网解决或者留言;

1. 快速下载OLLAMA

1.1 靠谱镜像的快速下载

  • OLLAMA二进制文件建议到 sourceforge 下载, 速度快很多, github直接下载不稳定且慢, 官网的脚步实际上是跳转到github去下载的;
  • 网址: https://sourceforge.net/projects/ollama.mirror/files/

1.1.1 Linux下的手动安装配置手册

  • 官网的手册也是跳转到github, 源码在国内的gitee上面有源码的镜像, 可以直接看国内的源码(注意:国内的源码镜像只有源码, 没有发布的二进制版本, 所以才去其他地方下载的);
  • gitee上安装手册地址: https://gitee.com/mirrors/ollama/blob/main/docs/linux.md
  • 核心步骤说明见后面的几步;

1.1.2 解压二进制文件

  • 默认安装到路径: /usr/local/bin/ollama:
sudo tar -C /usr -xzf ollama-linux-amd64.tgz
ollama -v
  • 当前版本是 0.5.7
$ ollama -v
ollama version is 0.5.7

1.1.3 创建ollama服务(很重要)

  • Create a user and group for Ollama:
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)
  • Create a service file in /etc/systemd/system/ollama.service:
  • 特别说明, 建议配置模型的存放路径OLLAMA_MODELS,空间要足够, 速度要够快, 比如把如下的$(whoami)替换成自己的用户名, 直接使用这个变量没试过;不配置的话, 默认路径存放在: /usr/share/ollama/.ollama/models 目录下;

                

AI 时代程序员必备技能

Codex、Claude Code、Cursor、Hermes Agent、OpenClaw等工程化实战专栏 ,讲透 AI 如何接管脏活累活

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

逸云沙鸥のIHave@Dream

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值