Confidence / вероятность предсказания
Confidence — это оценка вероятности класса или собственной правоты модели. Полезен для порогов и маршрутизации, но без калибровки часто обманывает.
Открыть →Глоссарий ИИ
Короткие и проверяемые определения терминов.
Бенчмарк в ИИ: MMLU, HumanEval и т.п.
Что такое бенчмарк для ИИ, как читать результаты MMLU и HumanEval, когда они полезны и почему их нельзя принимать за качество в продакшене.
Открыть →Red teaming ИИ: проверка модели на опасные сценарии
Red teaming ИИ — это целенаправленная проверка модели и всей ИИ-системы на jailbreak, утечки, токсичность и злоупотребление инструментами.
Открыть →Guardrails (ограждения) в AI-системах
Guardrails — это слой правил и проверок вокруг LLM: они фильтруют запросы, ограничивают инструменты и валидируют ответы, но не дают полной гарантии безопасности.
Открыть →Alignment (согласование ИИ)
Согласование ИИ — это настройка модели и всей системы так, чтобы она следовала целям, ограничениям и интересам людей, а не только формальной метрике.
Открыть →Катастрофическое забывание
Катастрофическое забывание — потеря ранее выученных навыков после дообучения модели на новых данных. Разбираем механизм, риски и рабочие способы смягчения.
Открыть →Transfer learning (перенос обучения)
Transfer learning — это перенос знаний из предобученной модели в новую задачу. Он ускоряет обучение и помогает при малом датасете, но не спасает при сильном сдвиге домена.
Открыть →Валидационная выборка
Валидационная выборка — это часть данных, на которой не обучают веса модели, а проверяют качество во время разработки: для подбора гиперпараметров, отбора модели и early stopping.
Открыть →Разметка данных (data labeling)
Разметка данных — это присвоение данным меток и атрибутов для обучения и проверки моделей. От качества схемы и инструкций здесь зависит качество всей ML-системы.
Открыть →Синтетические данные
Синтетические данные — искусственно сгенерированные наборы, которые повторяют свойства реальных данных. Полезны для тестов и ML, но не заменяют реальность.
Открыть →