Трансформер (архитектура)
Трансформер — архитектура нейросетей, где токены связываются через attention. Она стала основой LLM, но не всегда подходит при жёстких лимитах памяти и задержки.
Открыть материал →
Последние публикации
LATEST
Bias (смещение) в ИИ
Bias в ИИ — систематическое смещение в данных, метках или модели, из-за которого система устойчиво ошибается и неравномерно влияет на группы.
Открыть материал →
Переобучение (overfitting): что это такое
Переобучение — это ситуация, когда модель запоминает шум и частные случаи обучающей выборки, поэтому на новых данных работает хуже, чем на train.
Открыть материал →
Градиентный спуск
Градиентный спуск — базовый метод оптимизации: он шаг за шагом уменьшает ошибку модели по направлению антиградиента. Критичны шаг обучения и масштаб признаков.
Открыть материал →
Backpropagation (обратное распространение)
Обратное распространение — способ быстро вычислять градиенты функции потерь по параметрам сети. Разбираем цепное правило, этапы расчёта и ограничения.
Открыть материал →
Функция активации
Функция активации задаёт нелинейность в нейросети, влияет на градиенты и тип выхода. Разбираем ReLU, sigmoid, softmax и практический выбор.
Открыть материал →
Веса и параметры модели
Веса и параметры модели — это числа, которые модель обучает и использует для предсказаний. Разбираем, как их считать, хранить и не путать с гиперпараметрами.
Открыть материал →
Слой нейросети: что это, как работает и зачем нужен
Слой нейросети — базовый строительный блок модели: он принимает тензор, преобразует его и передает дальше. Разберем типы слоев, параметры и ограничения.
Открыть материал →
Нейрон (в нейросети)
Нейрон в нейросети — базовый вычислительный узел: он взвешивает входы, добавляет смещение и применяет активацию, формируя выход слоя.
Открыть материал →
Обучение с подкреплением (RL)
Обучение с подкреплением — подход, где агент учится действовать через пробу, ошибку и награду. Ниже — как работает RL, где он полезен и где...
Открыть материал →
Обучение без учителя
Обучение без учителя ищет структуру в неразмеченных данных: кластеры, скрытые факторы и аномалии. Разбираем, как оно работает и где его пределы.
Открыть материал →
Обучение с учителем
Обучение с учителем — подход ML, где модель учится на размеченных примерах и затем предсказывает класс или число для новых данных.
Открыть материал →