Backpropagation (обратное распространение)
Обратное распространение — способ быстро вычислять градиенты функции потерь по параметрам сети. Разбираем цепное правило, этапы расчёта и ограничения.
Разобраться в терминеСловарь терминов ИИ и нейросетей
Словарь терминов искусственного интеллекта и нейросетей: определения, объяснения механизмов и ссылки на материалы по теме.
Base model vs instruct model: чем отличаются базовая и instruct-модель
Base model предсказывает следующий токен, instruct model дополнительно обучена следовать инструкциям. Разница определяет выбор модели, промпт и ограничения.
Разобраться в терминеBatching (пакетная обработка)
Batching — это объединение нескольких запросов, сообщений или задач в один пакет для обработки одной операцией вместо поштучного режима.
Разобраться в терминеBeam Search
Beam search — стратегия декодирования, которая на каждом шаге хранит несколько лучших продолжений и затем выбирает последовательность с лучшей общей оценкой.
Разобраться в терминеBias (смещение)
Bias в ИИ — это систематический несправедливый перекос, предвзятость или фаворитизм, который может возникать из-за правил, данных, алгоритмов и человеческих решений.
Разобраться в терминеBPE (Byte Pair Encoding)
BPE — метод субсловной токенизации, который строит словарь, многократно сливая самые частые соседние пары единиц.
Разобраться в термине