本地部署运行 Google Gemma 开源大模型

Google 开源了 Gemma 大模型，有 7B 和 2B 两个版本。

而且，性能非常强悍，基准测试中 7B 模型的能力已经是开源模型中的领先水平。

Gemma 可以轻松的在本地部署运行，如果你的显存在 8G 以上，可以体验 7B 版本，8G 以下的话可以试试 2B 版本。

下面是本地部署步骤，以及体验感受。

一、部署步骤

思路：

• 使用 ollama 运行 Gemma 模型

• 使用 Chatbox 作为 UI 客户端

1. 安装 ollama

打开网页 https://ollama.com/

下载你相应操作系统的版本。

我的是 Windows，下载后直接运行安装。

安装完成后，在命令行中执行命令：

ollama -V

正确显示版本号即为安装成功。

2. 运行 Gemma</