Chain-of-thought (цепочка рассуждений)
Цепочка рассуждений — способ решать задачу через промежуточные шаги. Он помогает в логике и расчётах, но увеличивает стоимость ответа и не заменяет проверку инструментами.
Открыть материал →
Последние публикации
LATEST
Few-shot / zero-shot обучение
Few-shot и zero-shot — способы решать новую задачу без полноценного дообучения: либо по описанию задачи, либо по нескольким примерам. Полезно, но не универсально.
Открыть материал →
System prompt — системная инструкция для модели
System prompt — это верхнеуровневая инструкция для LLM, которая задает роль, границы, стиль и правила ответа, но не гарантирует полный контроль над моделью.
Открыть материал →
Промпт-инжиниринг
Промпт-инжиниринг помогает задавать LLM точные инструкции, контекст и формат ответа, но не заменяет данные, кодовую валидацию и меры безопасности.
Открыть материал →
Промпт
Промпт — это инструкция для языковой модели: что сделать, на каких данных, в каком формате и с какими ограничениями. От него зависит предсказуемость ответа.
Открыть материал →
Векторное представление
Векторное представление — способ кодировать текст, изображение или объект в набор чисел, чтобы машина могла сравнивать, искать и группировать их по смыслу.
Открыть материал →
Эмбеддинги (embeddings)
Эмбеддинги превращают текст, изображения и другие объекты в числовые векторы, чтобы искать смысловую близость, строить RAG, рекомендации и кластеризацию.
Открыть материал →
Контекстное окно
Контекстное окно — это объем токенов, который модель видит за один запрос. От него зависят качество ответа, стоимость, задержка и стратегия работы с RAG.
Открыть материал →
Токенизация
Токенизация — разбиение текста на токены, с которыми работает модель. От выбора токенизатора зависят длина контекста, стоимость и качество RAG.
Открыть материал →
Токен
Токен — минимальная единица текста, с которой работает модель. Разбираем, почему токен не равен слову и как считать контекст, стоимость и длину ответа.
Открыть материал →
Self-attention
Self-attention — механизм, в котором каждый токен оценивает важность остальных токенов той же последовательности. Это базовый блок Transformer и современных LLM.
Открыть материал →
Механизм внимания (attention)
Механизм внимания позволяет модели выбирать, какие части входа важны в текущий момент. Разбираем self-attention, Q/K/V, пользу, ограничения и пример.
Открыть материал →