本地部署类似 ChatGPT 的大模型：基于 Ollama + Open-WebUI

一、效果预览

本教程介绍如何在本地使用 Ollama 和 Open-WebUI 部署类似 ChatGPT 的网页版大模型，实现流畅的自然语言交互。

默认界面为英文，若不习惯，可以调整为中文。

二、部署 Ollama

1. Ollama 说明

Ollama 是一个大模型容器管理框架，可帮助用户快速在本地运行大模型，类似于 Docker。它支持 GPU 和 CPU，会自动根据硬件选择最佳运行方式。

• 官网：https://www.ollama.com
• GitHub 项目地址：GitHub - ollama/ollama: Get up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2, and other large language models.

硬件要求：

• Windows 10 及以上
• Nvidia 显卡要求 计算能力 5.0+
• 兼容 AMD GPU（详见 官方文档）
• 支持 量化模型，例如 LLaMA3-8B 量化后仅 4.7G（原始大小约 15G