Base model vs instruct model: чем отличаются базовая и instruct-модель
Base model предсказывает следующий токен, instruct model дополнительно обучена следовать инструкциям. Разница определяет выбор модели, промпт и ограничения.
Разобраться в терминеСловарь терминов ИИ и нейросетей — страница 2
Словарь терминов искусственного интеллекта и нейросетей: определения, объяснения механизмов и ссылки на материалы по теме.
Batching (пакетная обработка)
Batching — это объединение нескольких запросов, сообщений или задач в один пакет для обработки одной операцией вместо поштучного режима.
Разобраться в терминеBeam Search
Beam search — стратегия декодирования, которая на каждом шаге хранит несколько лучших продолжений и затем выбирает последовательность с лучшей общей оценкой.
Разобраться в терминеBias (смещение)
Bias в ИИ — это систематический несправедливый перекос, предвзятость или фаворитизм, который может возникать из-за правил, данных, алгоритмов и человеческих решений.
Разобраться в терминеBPE (Byte Pair Encoding)
BPE — метод субсловной токенизации, который строит словарь, многократно сливая самые частые соседние пары единиц.
Разобраться в терминеCFG (Classifier-Free Guidance)
Метод guidance для diffusion-моделей, который смешивает безусловное и условное предсказания, чтобы сильнее привязывать результат к промпту без отдельного classifier.
Разобраться в терминеChain (цепочка агентов)
Цепочка агентов — это последовательность шагов или агентов, где результат одного шага становится входом следующего; в документации это часто workflow, graph, handoff или RunnableSequence.
Разобраться в терминеChain-of-Thought (CoT)
Серия промежуточных шагов рассуждения перед ответом; также термином называют prompting, который побуждает модель выдать такие шаги.
Разобраться в терминеCheckpoint (контрольная точка)
Checkpoint — это сохранённое состояние обучения модели, которое позволяет восстановить веса и, при наличии служебных данных, продолжить training или выбрать нужную версию модели.
Разобраться в терминеChunking (разбивка текста)
Разбивка длинного текста на меньшие фрагменты для поиска, загрузки в vector store и подачи в контекст модели.
Разобраться в термине