Diffusers代码学习-LoRA训练

LoRA（Low-Rank Adaptation of Large Language Models）是一种流行的轻量级训练技术，它显著减少了可训练参数的数量。它的工作原理是在模型中插入少量的新权重，并且只训练这些权重。这使得使用LoRA进行训练的速度更快、内存高效，并产生更小的模型权重（几百MB），更容易存储和共享。LoRA还可以与DreamBooth等其他训练技术相结合，以加快训练速度。

1. 下载源代码及安装。

在运行脚本之前，请确保从以下源安装库：

git clone https://github.com/huggingface/diffusers

cd diffusers

pip install .

导航到包含train_dreambooth.py脚本的示例文件夹，并为正在使用的脚本安装所需的依赖项：

cd examples/dreambooth

pip install -r requirements.txt

注意需要修改train_dreambooth.py，将accelerator_project_config改为project_config。否则会报错returned non-zero exit status 1.

2. 安装及注册wandb

pip install wandb

登录Weights & Biases: The AI Developer Platform (wandb.ai)

3. 准备训练数据集

同时下载好训练所用的数据集。

import os

os.e