07 · PROTOKOL
DoğrulandıChat Template Uyumsuzluğu
Aynı anlamsal dataset, her modele aynı render edilmiş token dizisini vermek değildir.
- role/content bağımsız sakla
- Her modelin template'i farklı
- Render'ı elle incele
- Inference'ta aynı template
ÖNCE BUNLARI BİL
bütçesi, penceresi ve mekanizması…role/content kayıtlarını modelden bağımsız sakla; her model için kendi tokenizer ve chat template'iyle yeniden render et. Eğitim, evaluation ve inference boyunca aynı doğrulanmış template'i koru.
Response-only maskelemede assistant başlangıç ve bitiş işaretleri gerçek render ile eşleşmezse cevaplar loss dışında kalabilir veya prompt yanlışlıkla eğitime katılabilir.
İlk düşünce
QLoRA yanlış template'i adaptasyon sırasında düzeltir.
Düzeltme
QLoRA bellek ve optimizasyon yoludur; yanlış kontrol tokenlarını veya mask sınırlarını onarmaz.
Karar kuralı
En az bir render edilmiş örnekte BOS/EOS ve rol sınırlarını elle incele.
KAVRAM DERİNLİĞİ
Aynı kavramı üç derinlikte anlat. Seviyeni seç, anında geç. Üniversite öğrencisi için önerilen başlangıç: LİSANS.
Her modelin kendi chat template'i vardır (ChatML, Llama-3, Qwen, Phi). role/content kayıtlarını modelden bağımsız sakla; her model için kendi tokenizer ve template'iyle yeniden render et. Response-only masking'de assistant sınırları gerçek render ile eşleşmezse cevap loss dışında kalabilir.