Авторегрессивная модель (autoregressive model)
Авторегрессивная модель генерирует последовательность слева направо и предсказывает каждый следующий токен по уже видимому левому контексту.
Разобраться в терминеСловарь терминов ИИ и нейросетей — страница 10
Словарь терминов искусственного интеллекта и нейросетей: определения, объяснения механизмов и ссылки на материалы по теме.
Алгоритм (Algorithm)
Алгоритм — это вычислимый набор шагов для достижения результата; в формальной трактовке NIST — чётко заданный математический процесс вычисления значения.
Разобраться в терминеАугментация данных (Data Augmentation)
Приём обучения, который создаёт реалистичные вариации примеров и расширяет обучающую выборку.
Разобраться в терминеБенчмарк (Benchmark)
Бенчмарк — это эталонный набор правил, задач или документов для сравнения систем; точный смысл зависит от контекста.
Разобраться в терминеБольшая языковая модель (Large Language Model, LLM)
LLM — это общее название для крупных transformer language models, обученных на большом объёме данных и обычно имеющих очень много параметров.
Разобраться в терминеВалидационная выборка
Валидационная выборка — это часть данных, на которой не обучают веса модели, а проверяют качество во время разработки: для подбора гиперпараметров, отбора модели и early stopping.
Разобраться в терминеВалидация (Validation)
Валидация — это предварительная оценка качества модели на отдельной validation set во время разработки, до финальной проверки на test set.
Разобраться в терминеВекторное представление
Векторное представление — способ кодировать текст, изображение или объект в набор чисел, чтобы машина могла сравнивать, искать и группировать их по смыслу.
Разобраться в терминеВнимание (Attention, Attention Mechanism)
Механизм, который распределяет веса важности между частями входной последовательности при вычислении текущего выхода модели.
Разобраться в терминеВызов функций (Function Calling) / Tool Use
Function calling и tool use — это протокол, в котором модель возвращает структурированный запрос на вызов внешнего инструмента, а приложение выполняет этот инструмент и отправляет результат обратно модели.
Разобраться в термине