文章目录
背景说明: 最近很火的DeepSeek-V3和DeepSeek-R1不用多说了, 用过的都说好, 刚好去年搭了一台服务器(参考: 【Linux环境配置】EPYC7642双路服务器Ubuntu22.04安装配置纪要 ), 可以用来本地构构建一个机器人来辅助日常的使用,且安全靠谱;
本文特点: 重点在于方便国内用户快速搭建,解决网络缓慢等诸多限制, 其他未提事宜请上网解决或者留言;
1. 快速下载OLLAMA
1.1 靠谱镜像的快速下载
- OLLAMA二进制文件建议到
sourceforge下载, 速度快很多, github直接下载不稳定且慢, 官网的脚步实际上是跳转到github去下载的; - 网址: https://sourceforge.net/projects/ollama.mirror/files/
1.1.1 Linux下的手动安装配置手册
- 官网的手册也是跳转到github, 源码在国内的gitee上面有源码的镜像, 可以直接看国内的源码(注意:国内的源码镜像只有源码, 没有发布的二进制版本, 所以才去其他地方下载的);
- gitee上安装手册地址: https://gitee.com/mirrors/ollama/blob/main/docs/linux.md
- 核心步骤说明见后面的几步;
1.1.2 解压二进制文件
- 默认安装到路径:
/usr/local/bin/ollama:
sudo tar -C /usr -xzf ollama-linux-amd64.tgz
ollama -v
- 当前版本是 0.5.7
$ ollama -v
ollama version is 0.5.7
1.1.3 创建ollama服务(很重要)
- Create a user and group for Ollama:
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)
- Create a service file in
/etc/systemd/system/ollama.service: - 特别说明, 建议配置模型的存放路径OLLAMA_MODELS,空间要足够, 速度要够快, 比如把如下的
$(whoami)替换成自己的用户名, 直接使用这个变量没试过;不配置的话, 默认路径存放在:/usr/share/ollama/.ollama/models目录下;


2863

被折叠的 条评论
为什么被折叠?



