LoRA (низкоранговая адаптация)
LoRA — способ дообучать большие модели, обучая небольшие матрицы поверх замороженных весов. Это снижает требования к памяти и упрощает выпуск адаптеров.
Открыть →Короткие и проверяемые определения терминов.
LoRA — способ дообучать большие модели, обучая небольшие матрицы поверх замороженных весов. Это снижает требования к памяти и упрощает выпуск адаптеров.
Открыть →