Промпт-инжиниринг
Промпт-инжиниринг помогает задавать LLM точные инструкции, контекст и формат ответа, но не заменяет данные, кодовую валидацию и меры безопасности.
Открыть →Короткие и проверяемые определения терминов.
Промпт-инжиниринг помогает задавать LLM точные инструкции, контекст и формат ответа, но не заменяет данные, кодовую валидацию и меры безопасности.
Открыть →Промпт — это инструкция для языковой модели: что сделать, на каких данных, в каком формате и с какими ограничениями. От него зависит предсказуемость ответа.
Открыть →Векторное представление — способ кодировать текст, изображение или объект в набор чисел, чтобы машина могла сравнивать, искать и группировать их по смыслу.
Открыть →Эмбеддинги превращают текст, изображения и другие объекты в числовые векторы, чтобы искать смысловую близость, строить RAG, рекомендации и кластеризацию.
Открыть →Контекстное окно — это объем токенов, который модель видит за один запрос. От него зависят качество ответа, стоимость, задержка и стратегия работы с RAG.
Открыть →Токенизация — разбиение текста на токены, с которыми работает модель. От выбора токенизатора зависят длина контекста, стоимость и качество RAG.
Открыть →Токен — минимальная единица текста, с которой работает модель. Разбираем, почему токен не равен слову и как считать контекст, стоимость и длину ответа.
Открыть →Self-attention — механизм, в котором каждый токен оценивает важность остальных токенов той же последовательности. Это базовый блок Transformer и современных LLM.
Открыть →Механизм внимания позволяет модели выбирать, какие части входа важны в текущий момент. Разбираем self-attention, Q/K/V, пользу, ограничения и пример.
Открыть →Трансформер — архитектура нейросетей, где токены связываются через attention. Она стала основой LLM, но не всегда подходит при жёстких лимитах памяти и задержки.
Открыть →