Короткие и проверяемые определения терминов.
API (Application Programming Interface) — это программный интерфейс, по правилам которого приложения обмениваются данными и функциями. В статье — простое объяснение, схема работы, отличие от OpenAPI и ограничения термина.
Открыть →Latency (задержка) — это время ожидания результата, но в разных контекстах метрика разная: задержка запроса, прохождения пакета, RTT или «хвост» распределения. Разбираем, как измерять без путаницы.
Открыть →Inference, или вывод модели, — это запуск уже обученной модели на новых данных. Объясняем, как он работает в runtime и serving-системах и чем отличается от training, serving и PyTorch inference mode.
Открыть →GPU (Graphics Processing Unit) — графический процессор для параллельной обработки данных. Объясняем простыми словами, как он работает, где применяется в AI и что проверять в CUDA и ROCm перед запуском.
Открыть →Embeddings search, или семантический поиск, ищет тексты по смыслу: запрос и документы переводятся в векторы, сравниваются по близости, а результатом становятся наиболее релевантные фрагменты.
Открыть →Vector database, или векторная БД, — система для хранения и поиска высокоразмерных векторов. В статье — простое объяснение, схема работы, применение в RAG и отличия от pgvector и полнотекстового поиска.
Открыть →Chunking — это разбивка длинного текста на меньшие фрагменты для поиска, загрузки в vector store и укладки в контекст модели. В статье — fixed-size, sentence и semantic chunking, их различия и ограничения.
Открыть →Память агента — это сохраняемое состояние ИИ-системы: история, факты и предпочтения, которые переживают один ответ модели. Разбираем уровни памяти, схему работы, примеры OpenAI, LangChain и AutoGen и типичные ограничения.
Открыть →ReAct (Reasoning + Acting) — паттерн агентного взаимодействия, где модель чередует шаги рассуждения с вызовами инструментов и чтением наблюдений. Ниже — как он устроен, где применяется и чем отличается от фреймворковых API.
Открыть →Function calling, или tool use, — это режим, в котором модель не просто пишет текст, а возвращает структурированный запрос на вызов внешнего инструмента, а приложение исполняет его и отправляет результат обратно.
Открыть →