MLX

Локальный запуск больших языковых моделей: обзор инструментов для разработчиков

Разбор актуальных утилит и сред для запуска открытых LLM на персональном железе: от Ollama и Llama.cpp до MLX для Apple...