В этой статье мы сравним, как три основных поставщика LLM — OpenAI, Anthropic и open-source фреймворки — реализуют функциональные вызовы (function calling / tool use). Вы получите конкретные примеры кода, таблицу ключевых отличий и практические рекомендации, которые помогут выбрать подходящий инструмент для вашего агента ИИ.
Что такое function calling и как он встраивается в архитектуру агента
Function calling — это механизм, который позволяет LLM возвращать структурированные вызовы внешних функций, а не просто текст. Агент ИИ с function calling работает в цикле: модель получает описание доступных инструментов (название, параметры, описание), решает, какой инструмент вызвать, и возвращает JSON с именем функции и аргументами. Разработчик выполняет реальный вызов (API, база данных, файловая система) и передаёт результат обратно модели. Этот цикл может повторяться, пока модель не придёт к финальному ответу.
Главное преимущество — агент может получать актуальные данные, выполнять действия и обрабатывать результаты, оставаясь в рамках единого контекстного диалога.
Реализация OpenAI: возможности и подводные камни
OpenAI ввела function calling в июне 2023 года. В API передаётся массив `tools`, каждый элемент содержит `type: “function”` и `function` с `name`, `description`, `parameters` в формате JSON Schema. Модель возвращает `tool_calls` — массив вызовов, которые могут быть параллельными (параметр `parallel_tool_calls`). Всторенный `strict` режим включает строгую проверку соответствия JSON Schema при генерации, что уменьшает число невалидных вызовов.
Пример вызова функции с проверкой и повторными попытками:
python
import json
from openai import OpenAI
client = OpenAI()
def get_bitcoin_price(currency: str) -> float:
# имитация вызова API
return 65000.0 if currency == “USD” else 56000.0
tools = [{
“type”: “function”,
“function”: {
“name”: “get_bitcoin_price”,
“description”: “Get current Bitcoin price in given currency”,
“parameters”: {
“type”: “object”,
“properties”: {
“currency”: {“type”: “string”, “enum”: [“USD”, “EUR”, “RUB”]}
},
“required”: [“currency”]
}
}
}]
response = client.chat.completions.create(
model=”gpt-4o”,
messages=[{“role”: “user”, “content”: “Какой курс биткоина в долларах?”}],
tools=tools,
tool_choice=”auto”
)
if response.choices[0].message.tool_calls:
call = response.choices[0].message.tool_calls[0]
args = json.loads(call.function.arguments)
result = get_bitcoin_price(args[“currency”])
print(f”Курс: {result} USD”)
Подводные камни: при частых параллельных вызовах растёт потребление токенов — каждый вызов добавляет к ответу сотни токенов. Режим `strict` не гарантирует 100% валидности, особенно при сложных вложенных JSON Schema.
Реализация Anthropic: особенности tool use
Anthropic называет аналогичный механизм tool use. В API передаётся массив `tools` с полями `name`, `description`, `input_schema` (аналог JSON Schema). Claude возвращает блоки `content` типа `tool_use`. Важная особенность: Claude может вызывать инструменты одновременно с анализом изображений, что полезно для визуальных агентов. Anthropic рекомендует ограничивать количество инструментов до 16 на запрос.
Пример с Anthropic Python SDK:
python
import anthropic
client = anthropic.Anthropic()
response = client.messages.create(
model=”claude-3-5-sonnet-20241022″,
max_tokens=1024,
tools=[{
“name”: “get_weather”,
“description”: “Get current weather for a city”,
“input_schema”: {
“type”: “object”,
“properties”: {
“city”: {“type”: “string”}
},
“required”: [“city”]
}
}],
messages=[{“role”: “user”, “content”: “Какая погода в Москве?”}]
)
for block in response.content:
if block.type == “tool_use”:
print(f”Вызов {block.name} с аргументами {block.input}”)
Ограничение: Claude не поддерживает `parallel_tool_calls` в том же смысле, что OpenAI — он может вернуть только один `tool_use` на шаг, хотя в одном ответе может быть несколько блоков. Для многократных вызовов требуется цикл.
Open-source альтернативы: LangChain и Vercel AI SDK
Фреймворки, такие как LangChain и Vercel AI SDK, предоставляют единый интерфейс для работы с function calling независимо от провайдера. LangChain использует декоратор `@tool` для быстрого объявления функций, а затем автоматически конвертирует их в формат нужной модели. Vercel AI SDK (AI SDK) предлагает React-компоненты и стриминг с поддержкой tool calls, что удобно для фронтенд-приложений.
Пример LangChain с OpenAI:
python
from langchain.tools import tool
from langchain.agents import initialize_agent, AgentType
from langchain_openai import ChatOpenAI
@tool
def get_btc_price(currency: str) -> float:
“””Get Bitcoin price in given currency.”””
return 65000.0 if currency == “USD” else 56000.0
llm = ChatOpenAI(model=”gpt-4o”, temperature=0)
agent = initialize_agent(
tools=[get_btc_price],
llm=llm,
agent=AgentType.OPENAI_FUNCTIONS,
verbose=True
)
agent.run(“Какой курс биткоина сейчас?”)
Преимущество open-source: бесплатная лицензия (MIT, Apache 2.0), прозрачность кода, возможность кастомизации. Недостаток: зависимость от активного сообщества, иногда запаздывание в поддержке новых фич провайдеров.
Сравнительная таблица function calling
| Провайдер / Фреймворк | Формат инструментов | Параллельные вызовы | Стриминг | Лицензия | Сложность внедрения |
|---|---|---|---|---|---|
| OpenAI (GPT-4o) | JSON Schema (tools) | Да (parallel_tool_calls) | Да | Проприетарная | Низкая |
| Anthropic (Claude 3.5) | JSON Schema (tools) | Да (несколько блоков в одном ответе) | Да | Проприетарная | Средняя |
| LangChain (любая модель) | @tool, BaseTool | Зависит от модели | Да (через провайдера) | MIT | Средняя |
| Vercel AI SDK | Tool schema | Да (через провайдера) | Да (встроенный) | Apache 2.0 | Высокая (требуется React/Next.js) |
Практические ограничения и ловушки
Стоимость: каждый вызов функции генерирует дополнительные токены на входе (описание инструмента) и на выходе (JSON-вызов). При цепочке из 5 вызовов с использованием GPT-4o стоимость может превысить $0.05 за диалог. Используйте кэширование результатов и сокращайте количество шагов.
Валидация: модель может вернуть невалидный JSON, особенно при сложных схемах. Всегда проверяйте аргументы через `json.loads` с обработкой ошибок или используйте библиотеку Pydantic для валидации.
Безопасность: никогда не передавайте модели секреты (API-ключи, пароли) — они могут быть включены в лог запроса или выведены в ответе. Разграничивайте права инструментов: агент должен иметь доступ только к тем функциям, которые необходимы для конкретной задачи.
Контекстное окно: длинные цепочки вызовов могут превысить лимит токенов. Рекомендуется ограничивать максимальное количество шагов (например, до 10) и принудительно завершать агента при превышении.
Как тестировать function calling в своем проекте
Начните с простого сценария: одна функция с одним обязательным параметром (например, получение даты или курса валют). Убедитесь, что модель корректно вызывает её в 90%+ случаев. Затем добавьте вторую функцию и проверьте, что модель выбирает правильную. Для тестирования используйте:
– Playground OpenAI (прямая отправка запросов с tools)
– Инструмент `langsmith` для трассировки вызовов LangChain
– Юнит-тесты для каждой функции с эталонными промптами
Заключение: что выбрать для стартапа и для enterprise?
Для быстрого прототипирования выбирайте OpenAI — самый простой и документированный вариант. Если вам нужна поддержка изображений или работа с большими контекстами — присмотритесь к Claude от Anthropic. Для проектов, где важна кастомизация и контроль над данными, используйте LangChain или Vercel AI SDK. В любом случае, начните с одного провайдера, а затем при необходимости мигрируйте, используя абстракцию фреймворка.
Function calling — не универсальное решение, но для большинства практических задач (поиск документов, бронирование, обработка заказов) это самый быстрый способ превратить LLM из болталки в рабочего агента.