Короткие и проверяемые определения терминов.
Red teaming — структурированное тестирование ИИ для поиска уязвимостей, нежелательного поведения и рисков злоупотребления до и после релиза. Разбираем процесс, примеры, отличия от автоматических оценок и практические ограничения.
Открыть →Top-k sampling — способ декодирования, при котором LLM на каждом шаге выбирает следующий токен только из k самых вероятных вариантов. Разбираем механику, отличия от top-p и нюансы в Transformers и vLLM.
Открыть →Self-Attention — механизм трансформера, в котором каждый элемент входа выбирает, на какие другие элементы того же входа смотреть. Ниже — простое объяснение Q/K/V, масок и отличий от MHA.
Открыть →Функция потерь (loss function) — это правило, которое измеряет расхождение между предсказанием модели и правильным ответом. Ниже — простое объяснение, связь с риском и ERM, а также практический смысл loss в Keras и PyTorch.
Открыть →Обучение без учителя — это режим машинного обучения, где модель не получает готовых ответов и ищет структуру в данных сама: группы объектов, главные направления вариации, выбросы и компактные представления.
Открыть →Бенчмарк (benchmark) — это эталонный способ сравнения по фиксированным правилам. В ИИ это набор задач или данных, в XCCDF — benchmark-документ, а в performance — стандартизированный пакет вроде SPEC CPU 2026.
Открыть →Bias (смещение) в ИИ — систематический перекос или фаворитизм, который может идти из правил, данных, алгоритмов и человеческих решений. Ниже — трактовка NIST, три категории bias, проверка по подгруппам и отличие от ML-термина bias.
Открыть →AGI — это не единый технический стандарт, а спорный термин для систем с широкой общностью способностей и высокой автономностью. Ниже — рабочие определения, схема оценки, отличия и ограничения по актуальным источникам.
Открыть →Приватность данных — это не только защита от утечек, а правила и методы, которые делают использование данных о человеке понятным, управляемым и менее связываемым с его личностью.
Открыть →Guardrails (ограждения) в ИИ — это слой проверок и правил вокруг LLM. Он ограничивает вход и выход модели, может направлять диалог и контролировать формат ответа. В статье — механика, примеры и реальные ограничения подхода.
Открыть →