Selam beyler, bir süredir Stable Diffusion üzerinde özel bir karakter için LoRA eğitmeye çalışıyorum. Kendi çektiğim 20 adet 512x512 portre fotoğrafını kullanıyorum. Ön işleme olarak BLIP ile caption çıkardım, hepsini ayrı ayrı düzenledim. Eğitim için Kohya_ss GUI kullanıyorum. Ama işin ilginç yanı, eğitim başladıktan yaklaşık 200-300 adımdan sonra loss değeri direkt 0.0000'a düşüyor ve bir daha hiç kıpırdamıyor. Öğrenme oranını 1e-4'ten 1e-5'e düşürdüm, batch size'ı 1 yaptım, network rank'ı 64'ten 32'ye çektim ama nafile. Sonuçta ortaya çıkan LoRA, prompt'taki karakteri hiç yakalamıyor, tamamen alakasız yüzler üretiyor. Kullandığım model SD 1.5 tabanlı (Realistic Vision V5.1). Acaba dataset'im mi yetersiz, yoksa bir yerde ayar kaçırıyorum? Yardımcı olabilecek var mı dostlar?
Stable Diffusion'da LoRA eğitirken loss değeri sıfırlanıyor, nerede hata yapıyorum?
Cevaplar (5)
30.07.2026 19:17
Kanka, loss'un sıfırlanması genelde overfitting belirtisidir ama bu kadar erken adımda olması dataset kaynaklı olabilir. 20 adet fotoğraf aslında LoRA için yeterli sayı, ama hepsi aynı açıdan mı çekilmiş? Mesela hep düz cepheden portrelerse model sadece o açıyı öğrenir ve varyasyon olmadığı için loss hızla düşer. Ayrıca caption'larda çok fazla ortak kelime var mı? BLIP bazen her fotoğrafa "a woman smiling" gibi genel caption'lar atar, sen de düzenlemişsin ama yine de kontrol et derim. Bir de öğrenme oranını 1e-6 gibi daha düşük bir değere çekip bir deneme yap, belki LR scheduler'ın da etkisi vardır.
30.07.2026 19:40
ismail yazdı:
Kanka, loss'un sıfırlanması genelde overfitting belirtisidir ama bu kadar erken adımda olması dataset kaynaklı olabilir. 20 adet fotoğraf aslında LoRA için yeterli sayı, ama hepsi aynı açıdan mı çekilmiş? Mesela hep düz cepheden portrelerse model sadece o açıyı öğrenir ve varyasyon olmadığı için loss hızla düşer.
İsmail'in dediğine ek olarak, Kohya_ss'deki bir diğer tuzak da "bucket" ayarları. Eğer tüm fotoğraflarını 512x512'ye resize ettiysen ve aspect ratio'yu bozduysan, modelin öğrenmesi gereken oranlar kayboluyor. Bunun yerine "Enable Buckets" seçeneğini aç ve fotoğrafları orijinal en-boy oranında bırak. Ayrıca "Num Epochs" değerini 10-15 arası tut, fazla epoch overfitting'i hızlandırır. Benzer bir sorunu ben de yaşamıştım, bucket'ları aktif edince düzeldi.
30.07.2026 20:05
Beyler, loss sıfırlanması bazen dataset'teki tekrar eden desenlerden değil, yanlış ön işlemeden kaynaklanır. BLIP caption'larını manuel düzenlemişsin ama fotoğrafların hepsinde arka plan çok mu benzer? Mesela hep aynı duvar önünde çekim yaptıysan, model arka planı öğrenip karakteri ihmal edebilir. Bu durumda loss düşük görünür ama asıl öğrenme gerçekleşmez. Çözüm olarak, fotoğrafların bir kısmını farklı arka planlarla değiştir veya arka planları bulanıklaştır. Ayrıca Kohya_ss'de "Gradient Checkpointing" ve "Mixed Precision" (fp16) ayarlarını kontrol et, bazen bu optimizasyonlar loss hesaplamasını bozabiliyor.
30.07.2026 21:05
Hobidaşlar, bir de şu ihtimal var: Kullandığın Realistic Vision V5.1 modeli, LoRA eğitimi için biraz tuhaf sonuçlar verebiliyor. Benzer bir problemi ben de yaşamıştım, sonra SD 1.5'in vanilla versiyonuna geçtim ve düzeldi. Ayrıca eğitim sırasında "Save every N steps" ayarını 100'e düşürüp ara checkpoint'ları test et. Loss sıfırlanmadan önceki checkpoint'i (mesela 200. adım) al ve onu dene. Belki de loss sıfırlansa bile o noktada iyi bir öğrenme olmuştur. Son olarak, network rank'ı 64'te bırak ama alpha değerini 1 yap, rank/alpha oranı önemli.
30.07.2026 22:05
Çok teşekkürler arkadaşlar, hepinizin önerilerini dikkate aldım. Özellikle bucket'ları aktifleştirip fotoğrafların bir kısmını farklı arka planlarla değiştirdim ve LR'yi 1e-6'ya çektim. Şimdi loss 0.4 civarında stabil seyrediyor ve ürettiğim LoRA karakteri gerçekten yakalamaya başladı. Sorun çözüldü, destek veren herkese teşekkürler! Forumda böyle yardımlaşma ortamı olması çok güzel.
Bu konuya cevap yazabilmek için retro topluluğumuza üye olmalı veya giriş yapmalısınız.
İlgili Konular & Benzer Paylaşımlar
Stable Diffusion'da VAE çıktısı siyah çıkıyor, yardım edebilecek var mı?
Kategori: Yapay Zeka Araçları
Yerel LLM'de (Llama 3.1 8B) Türkçe cümle tamamlama sırasında takılma ve tekrar sorunu
Kategori: Yapay Zeka Araçları
Stable Diffusion ile çıktı alırken VRAM yetmiyor, alternatif optimizasyonlar var mı?
Kategori: Yapay Zeka Araçları