NVIDIA открыла исходный код платформы Run:ai под лицензией Apache 2.0, сообщает MarkTechPost. Для команд, управляющих GPU-кластерами, это означает возможность изучать опубликованный код платформы оркестрации; Run:ai работает поверх Kubernetes, а не заменяет его.
Платформа для общих GPU-кластеров
По описанию MarkTechPost, Run:ai управляет заданиями разработки, обучения и инференса на общих GPU-кластерах. Управляющая часть отвечает за отправку заданий, ресурсы и мониторинг, а сервисы в кластере добавляют планирование с учётом GPU. Издание также перечисляет веб-интерфейс, командную строку, REST API и MCP-сервер как способы взаимодействия с платформой.
Четыре компонента
В публикации названы четыре независимо подключаемых компонента: KAI Scheduler для планирования заданий Kubernetes, GPU Fractioning Operator для разделения GPU-ресурсов, KAI Resource Management для управления ресурсами и Workload Map для отображения нагрузки. MarkTechPost связывает KAI Scheduler с групповым планированием, распределением ресурсов по времени и учётом топологии кластера.
Локальная разработка и ограничения
Для локальной разработки MarkTechPost описывает среду на Kind с восемью симулированными Tesla-A10 GPU; физические ускорители для этого режима не требуются. Это позволяет работать с локальной симуляцией, но не показывает поведение платформы на настоящем GPU-кластере. По данным издания, локальная сборка на Linux требует 16 ГБ оперативной памяти и 100 ГБ диска. В статье также сказано, что Community edition не включает корпоративную поддержку NVIDIA.
Что известно о производительности
MarkTechPost сообщает, что для всей платформы Run:ai не опубликован бенчмарк производительности. В доступных данных нет независимых тестов, позволяющих оценить эффект платформы на конкретном кластере. Поэтому открытый исходный код даёт командам возможность изучить решение, но сам по себе не устанавливает, насколько оно изменит скорость или стоимость их рабочих нагрузок.
