Как настроить rate limiting для API
Пошаговая инструкция по настройке rate limiting для API в NGINX, AWS API Gateway, Cloudflare и Envoy: как выбрать точку ограничения, безопасно включить правило и проверить 429/503.
Открыть →How-to
Практические руководства для работы с AI.
Как анонимизировать данные перед отправкой в AI
Пошаговая инструкция по анонимизации текста и документов перед отправкой в AI: когда выбирать локальный Presidio, а когда Azure, Google или AWS, и как проверить, что PII действительно удалён.
Открыть →Как проверить модель на bias (смещения)
Пошаговая инструкция, как проверить модель на bias: определить тип вреда, сравнить overall и by_group, учесть пересечения групп, задать порог и выбрать mitigation в Fairlearn, AIF360 или What-If Tool.
Открыть →Как оценить качество генерации (evals)
Пошаговая инструкция, как собрать воспроизводимую оценку качества генерации: выбрать OpenAI Evals, Promptfoo или LM Evaluation Harness, задать кейсы, проверки, пороги и прогнать evals в CLI или CI.
Открыть →Как провести red teaming для вашей модели
Пошаговая инструкция по red teaming модели или LLM-приложения: как задать цель, собрать команду, провести ручные тесты, проверить ASR и повторить цикл после мер смягчения.
Открыть →Как настроить guardrails для AI-приложения
Пошаговая инструкция по базовой настройке guardrails для AI-приложения на NVIDIA NeMo Guardrails: установка, input/output rails, проверка через check() и роль OpenAI Moderations.
Открыть →Как развернуть inference-сервер с Replicate
Пошаговая инструкция: как запустить локальный HTTP inference-сервер через Replicate Cog, проверить его через /health-check и /predictions и при необходимости создать приватный deployment.
Открыть →Как использовать Jan.ai для локальных моделей
Пошаговая инструкция по Jan.ai Desktop: установка на macOS, Windows или Linux, загрузка локальной модели через Hub, выбор совместимого варианта и проверка локального API на 127.0.0.1:1337.
Открыть →Как запустить модель на CPU (без GPU)
Пошагово разбираем три официальных пути запуска модели на CPU без GPU: PyTorch + Transformers, llama.cpp и Ollama, с проверкой, что вычисления реально идут через CPU.
Открыть →Как настроить Text Generation WebUI (oobabooga)
Пошаговая инструкция по настройке Text Generation WebUI: какой официальный способ установки выбрать, куда положить GGUF, как запустить локальный интерфейс на 127.0.0.1:7860 и включить API через --api.
Открыть →