Stable Diffusion ile çıktı alırken VRAM yetmiyor, alternatif optimizasyonlar var mı?

Merhaba, aynı sorunu bende yaşadım. 8 GB VRAM ile çalışıyorum, senin durumunda 12 GB aslında yeterli olmalı ama bazı checkpoint modelleri (özellikle SDXL) çok şişkin. Öncelikle şunu kontrol et: WebUI ayarlarından 'Optimizations' sekmesinde 'Pad prompt/negative prompt attention mask' işaretli mi? Bunu kapatmak bazen bellek tasarrufu sağlıyor. Ayrıca '--opt-split-attention' ve '--opt-sub-quad-attention' flaglerini deneyebilirsin. Bunlar belleği daha verimli kullanıyor. Tiled VAE'ye gelince, o gerçekten işe yarıyor. WebUI eklentilerinden 'Tiled VAE'yi kur, ayarlardan tile size'ı 256 veya 512 yap, bellek kullanımı ciddi oranda düşüyor. ComfyUI ise daha modüler ve düşük bellek kullanımına sahip, ama öğrenme eğrisi var. Ben geçtim, memnunum.

Hocam bu ayarı ben de kapatmıştım ama pek fark etmedi. Bence asıl çözüm model pruning. Özellikle SD 1.5 tabanlı modellerde '--opt-pruned-weights' flagini dene. Bu, modelin ağırlıklarını budayarak VRAM kullanımını azaltıyor. Ayrıca '--no-half-vae' flagini kullanma, çünkü bu VAE'yi tam duyarlılıkta çalıştırır ve daha fazla VRAM yer. Bunun yerine '--precision full' yerine '--precision autocast' kullan. Batch boyutunu 1'e düşürüp '--medvram' ile devam et, çıktı kalitesi düşmez. Son olarak, eğer SDXL kullanıyorsan, '--opt-sdp-attention' dene, PyTorch 2.0 ile geliyor ve belleği optimize ediyor.

Arkadaşlar, ben de benzer bir durumdaydım. Bence en iyi çözüm ComfyUI'ye geçmek. Automatic1111'de her şey tek bir pipeline üzerinde yükleniyor, oysa ComfyUI'de her node ayrı ayrı yüklenip boşaltılabiliyor. Özellikle yüksek çözünürlüklü çıktılar için 'Ultimate SD Upscale' node'unu kullanıyorum, VRAM kullanımı 6-7 GB'ı geçmiyor. Ayrıca 'VAE Loader' node'unda 'tiled' seçeneğini aktifleştirince büyük resimlerde bile sorun çıkmıyor. ComfyUI'ye geçiş yapmak istersen, 'ComfyUI Manager' eklentisini kur, içinde hazır workflow'lar var. SDXL için de 'efficient' node'lar mevcut. Kesinlikle tavsiye ederim, bir kere alıştıktan sonra geri dönmek istemezsin.

Öncelikle herkese çok teşekkürler! hexhero70 ve copperrebel19'in önerilerini denedim, özellikle '--opt-sub-quad-attention' ve Tiled VAE eklentisi işe yaradı. VRAM kullanımı 8-9 GB'a düştü, artık 1024x1024 çıktı alabiliyorum. arcadebreaker87, ComfyUI'yi de kurdum ve birkaç workflow denedim, gerçekten daha verimli. Şimdilik Automatic1111'de kalıp Tiled VAE ile devam edeceğim, ama ileride tamamen ComfyUI'ye geçmeyi düşünüyorum. Sorun çözüldü, destek veren herkese teşekkürler!