VRAM12GBのPCでStable Diffusion Web UIのDreamboothを動かす

概要

「Stable Diffusion Web UI」に「Dreambooth」の拡張機能を入れ、

VRAM12GBのGPUでトレーニングを試してみたので、その時の手順をまとめた。

※「Stable Diffusion web UI」のインストール方法は下記記事に記載。 koubou-rei.com

環境

OS Windows11
GPU NVIDIA GeForce RTX 3080Ti

拡張機能のインストール

https://github.com/d8ahazard/sd_dreambooth_extension

上記リンクから拡張機能を下記コマンドで「Stablel DIffusion WebUI」にインストール

cd extensions
git clone https://github.com/d8ahazard/sd_dreambooth_extension.git

使用方法

モデルの作成

  1. 「Dreambooth」タブを開く
  2. 「Create Model」タブを開き Name を入力し、 Source Checkpoint で元にするモデルを選択。
  3. Createボタンでモデル作成開始(モデルの作成には2~3分ほどかかる)

パラメータの設定

デフォルトのままだと、VRAM12GBのPCでは動かなかったので、以下の項目を設定する。

  • 「Parameters」
    • Use 8bit Adamにチェック
    • Mixed Precisionfp16に設定
    • Memory Attensionxformersに設定
    • Train Text Encoderのチェックを外す
  • 「Concepts」>「Concept1」
    • Dataset Directoryにトレーニング用のデータを入れたフォルダを指定

トレーニング

「Train」ボタンでトレーニングが開始される。