KONTROLLÜ ARAÇLAR

Laboratuvar

Bu araçlar planlama ve kavram doğrulama içindir. Gerçek GPU çalıştırmazlar; ölçüm alanları yalnızca senin girdiğin değerleri saklar. Veri oranları ve skor ağırlıkları değiştirilebilir öğretici varsayımlardır; doğrulanmış öneri değildir.

Simülasyon
01

Bağlam bütçesi

2.780 token1.316 token boş
02

Toplu iş ve adımlar

Etkin toplu iş
16
Toplam optimizasyon adımı
375
03

LoRA ölçeği

LoRA α/r
1.000
rsLoRA α/√r
2.828
Adaptör parametresi
1.835.008
04

Türkçe token ölçümü

Sonuç uydurulmaz. Aynı metni iki gerçek tokenizer ile ölçüp değerleri gir.

—Adayın tabana göre token farkı
05

Veri kümesi karışımı

100%standart 1100 · farklı ifade 200 · eksik bilgi 300 · negatif 200 · eskalasyon 200
06

Ağırlıklı değerlendirme

77.8/ 100
07

Şablon ve maskeleme kontrolü

  1. Tek bir örneği gerçek tokenizer ile işle.
  2. BOS, rol sınırları, asistan başlangıcı ve EOS'u görünür kıl.
  3. Etiketlerde istem tokenlarının -100, yanıt tokenlarının etkin olduğunu doğrula.
  4. Çıkarımda aynı şablon ve durdurma davranışını kullan.
08

4070 Ti Super planlama rehberi

Simülasyon

16 GB için denenecek başlangıç ayarları (modelin sığacağı garanti edilmez): 4-bit taban, mikro toplu iş 1, bağlam 1024–2048 ve gradyan kontrol noktası. OOM sırası: toplu iş → bağlam → daha küçük model → aktarma. Bu kart gerçek bir koşunun kanıtı değildir.