Токенизация (Tokenization)
Токенизация — это преобразование текста в модельно-зависимые токены. Объясняем простыми словами, как работает pipeline токенизатора, чем отличаются BPE, WordPiece и SentencePiece и как точно считать токены.
Открыть →Глоссарий ИИ
Короткие и проверяемые определения терминов.
Переобучение (Overfitting)
Переобучение (overfitting) — это ситуация, когда модель слишком близко подгоняется под обучающие данные и хуже работает на новых примерах. Коротко разбираем признаки, диагностику и способы снизить риск.
Открыть →Градиентный спуск (Gradient Descent)
Градиентный спуск — итерационный метод оптимизации, который на каждом шаге сдвигает параметры модели против градиента. Ниже — простое объяснение, схема, пример в PyTorch и отличие от SGD с momentum.
Открыть →Гиперпараметры (Hyperparameters)
Гиперпараметры — это настройки модели и процесса обучения, которые обычно задают до запуска и не извлекают напрямую из данных. Разбираем, как их подбирать и не путать с весами.
Открыть →Параметры модели (Model Parameters)
Параметры модели — это обучаемые значения внутри ML-системы: прежде всего веса и смещения, а в некоторых архитектурах ещё и embeddings. Они подбираются во время обучения и определяют, как модель преобразует вход в выход.
Открыть →Датасет (Dataset)
Датасет (dataset) — это набор сырых данных, с которым модель обучают, проверяют и сравнивают. Ниже — простое объяснение, как работают сплиты train/validation/test и чем датасет отличается от dataset card.
Открыть →Алгоритм (Algorithm)
Алгоритм (algorithm) — это вычислимый набор шагов для получения результата. Разбираем простое объяснение, формулировки NIST и MDN, пример, отличия и ограничения термина.
Открыть →Модель (Model)
Модель (model) в ИИ — это параметризованная функция или математическая структура, которая превращает вход в выход. Ниже — простое объяснение, схема работы, обучение параметров и отличие модели от слоя, параметров и estimator.
Открыть →Глубокое обучение (Deep Learning)
Глубокое обучение — это подход в машинном обучении, где многослойные нейросети извлекают представления из данных, а параметры настраиваются через обратное распространение ошибки.
Открыть →Машинное обучение (Machine Learning, ML)
Что такое машинное обучение простыми словами: как оно работает через samples, target и fit, где проходит граница между supervised и unsupervised и что важно проверить в scikit-learn, TensorFlow и PyTorch.
Открыть →