QLoRA: что это и как работает
QLoRA — это способ дообучать большие языковые модели в 4-битной квантизации: база остаётся замороженной, а обучаются только LoRA-адаптеры. Разбираем, как это устроено, где применяется и какие у метода ограничения.
Открыть →