04 · KAPASİTE

Doğrulandı

Rank, Alpha ve Target Modules

Kapasite, ölçek ve etki alanını birbirinden ayır; tek değişkenli deney yap.

HIZLI BAKIŞ
  • r = kapasite
  • alpha = ölçek
  • α/r = standart, α/√r = rsLoRA
  • Tek değişkeni değiştir

ÖNCE BUNLARI BİL

B (d_out × r)A (r × d_in)r = rank | α = ölçek (α/r LoRA, α/√r rsLoRA)KAVRAM ŞEMASI

bütçesi, penceresi ve mekanizması…Rank r adaptör kapasitesini ve r × (d_in + d_out) parametre bütçesini belirler. Alpha standart LoRA'da alpha/r, rsLoRA'da alpha/√r ölçeğini etkiler.

Target modules, adaptörün attention ve MLP içindeki gerçek matrislere nereye ekleneceğini belirler. Modül adları mimariye özgüdür ve eğitim öncesinde modelden doğrulanmalıdır.

01

İlk düşünce

Aynı alpha/r, aynı adaptör kapasitesi demektir.

02

Düzeltme

Aynı etkin ölçek korunabilir; daha yüksek rank yine daha çok parametre ve kapasite taşır.

03

Karar kuralı

r=8/alpha=8 baseline; kapasite yetersizse diğer her şeyi sabit tutup r=16/alpha=16 dene.

KAVRAM DERİNLİĞİ

Aynı kavramı üç derinlikte anlat. Seviyeni seç, anında geç. Üniversite öğrencisi için önerilen başlangıç: LİSANS.

LİSANS

Rank r, A ∈ R^(r×d_in) ve B ∈ R^(d_out×r) matrislerinin iç boyutudur. Parametre sayısı r × (d_in + d_out) ile ölçeklenir. Alpha, ölçek çarpanıdır: standart LoRA'da α/r, rsLoRA'da α/√r. Aynı etkin ölçek korunsa bile, yüksek rank daha çok kapasite taşır ve overfitting riski artar.