oMLX ускоряет локальные агенты на Mac за счет многоуровневого кэша KV
Новый сервер oMLX для Apple Silicon решает проблему медленной работы локальных LLM при работе с агентами. Инструмент переносит кэш KV...
Тема COMRAD404
Apple Silicon
2 материалов
Epilude: локальная диктовка на Mac с собственными моделями речи и очистки текста
Приложение Epilude обещает преобразовывать голосовые заметки в готовый текст прямо на устройстве, используя собственную модель Epilude Model 4.1 и fine-tune...