Разметка данных (data labeling)
Разметка данных — это присвоение данным меток и атрибутов для обучения и проверки моделей. От качества схемы и инструкций здесь зависит качество всей ML-системы.
Разобраться в терминеСловарь терминов ИИ и нейросетей — страница 16
Словарь терминов искусственного интеллекта и нейросетей: определения, объяснения механизмов и ссылки на материалы по теме.
Синтетические данные (Synthetic Data)
Синтетические данные — это искусственно сгенерированные записи, сохраняющие часть статистических свойств исходного набора, но не гарантирующие нулевой риск раскрытия.
Разобраться в терминеСистемный промпт (System Prompt)
Привилегированная инструкция для LLM, которую приложение передаёт отдельно от пользовательского текста, чтобы задать роль, правила и формат ответа.
Разобраться в терминеСлой нейросети: что это, как работает и зачем нужен
Слой нейросети — базовый строительный блок модели: он принимает тензор, преобразует его и передает дальше. Разберем типы слоев, параметры и ограничения.
Разобраться в терминеСмешанная точность обучения (Mixed precision training)
Подход к обучению, при котором 16-битные форматы сочетаются с 32-битными вычислениями ради скорости, экономии памяти и сохранения устойчивости.
Разобраться в терминеСтоимость токенов (Token pricing)
Стоимость токенов — это тарификация API по числу обработанных токенов, обычно с раздельными ставками для input и output, а иногда и для кэша, аудио или отдельных региональных режимов.
Разобраться в терминеТестовая выборка (Test Set)
Отложенная часть данных, которую используют только для финальной проверки того, как обученная модель работает на ранее невидимых примерах.
Разобраться в терминеТокен (Token)
Токен — это единица, на которую tokenizer разбивает вход и выход модели; точный счёт зависит от конкретной модели и encoding.
Разобраться в терминеТокенизация (Tokenization)
Токенизация — это преобразование текста в токены, причём разбиение зависит от конкретной модели и encoding.
Разобраться в терминеТрансформер (Transformer)
Transformer — это архитектура нейросетей из статьи Attention Is All You Need, основанная на attention и изначально построенная без рекуррентности и свёрток.
Разобраться в термине