Справочник COMRAD404

Как пользоваться нейросетями: инструкции — страница 6

Пошаговые инструкции по работе с нейросетями и ИИ-инструментами: установка, настройка, подключение моделей и автоматизация задач.

Как мигрировать с OpenAI API на Anthropic API

Пошаговая инструкция по миграции с OpenAI API на Anthropic API: сначала быстрый smoke-тест через OpenAI SDK compatibility, затем переход на...

Как перенести промпты из ChatGPT в Claude

Официального one-click импорта между ChatGPT и Claude в проверенных источниках нет. Рабочий путь — экспортировать данные ChatGPT, вручную извлечь инструкции...

Как настроить fallback при сбое API

Пошаговая инструкция по настройке fallback при сбое API: как поставить retries перед fallback, исключить unsafe HTTP-методы из автоповторов, включить telemetry...

Как настроить rate limiting для API

Пошаговая инструкция по настройке rate limiting для API в NGINX, AWS API Gateway, Cloudflare и Envoy: как выбрать точку ограничения,...

Как проверить модель на bias (смещения)

Пошаговая инструкция, как проверить модель на bias: определить тип вреда, сравнить overall и by_group, учесть пересечения групп, задать порог и...

Как оценить качество генерации (evals)

Пошаговая инструкция, как собрать воспроизводимую оценку качества генерации: выбрать OpenAI Evals, Promptfoo или LM Evaluation Harness, задать кейсы, проверки, пороги...

Как провести red teaming для вашей модели

Пошаговая инструкция по red teaming модели или LLM-приложения: как задать цель, собрать команду, провести ручные тесты, проверить ASR и повторить...

Как настроить guardrails для AI-приложения

Пошаговая инструкция по базовой настройке guardrails для AI-приложения на NVIDIA NeMo Guardrails: установка, input/output rails, проверка через check() и роль...

Как развернуть inference-сервер с Replicate

Пошаговая инструкция: как запустить локальный HTTP inference-сервер через Replicate Cog, проверить его через /health-check и /predictions и при необходимости создать...

Как настроить Text Generation WebUI (oobabooga)

Пошаговая инструкция по настройке Text Generation WebUI: какой официальный способ установки выбрать, куда положить GGUF, как запустить локальный интерфейс на...

Как развернуть vLLM для быстрого inference

Инструкция по локальному развёртыванию vLLM для быстрого inference: установка через uv, запуск OpenAI-совместимого сервера, проверка /v1/models и /metrics, типовые ошибки...

Как квантизировать модель (GGUF, GPTQ, AWQ)

Пошагово разбираем три официальных маршрута квантования модели: GGUF через llama.cpp, GPTQ/GGUF через GPTQModel и AWQ через AutoAWQ, плюс обязательную проверку...

Как настроить observability для AI-агентов с LangSmith

Пошаговая инструкция по настройке observability для AI-агентов с LangSmith: переменные окружения, региональный endpoint, LangChain/LangGraph, OpenTelemetry, проверка traces и ограничения.