Форматы квантизации: GGUF, GPTQ, AWQ
GGUF — контейнерный формат модели для GGML/llama.cpp, а GPTQ и AWQ — методы посттренировочной квантизации весов для более компактного и удобного инференса.
Разобраться в терминеСловарь терминов ИИ и нейросетей
Словарь терминов искусственного интеллекта и нейросетей: определения, объяснения механизмов и ссылки на материалы по теме.
Функция активации
Функция активации задаёт нелинейность в нейросети, влияет на градиенты и тип выхода. Разбираем ReLU, sigmoid, softmax и практический выбор.
Разобраться в терминеФункция потерь (Loss Function)
Функция потерь — это критерий, который измеряет расхождение между предсказанием модели и целевым значением и используется как цель для обучения.
Разобраться в термине