На Open Source Summit Europe в Праге openKylin представила архитектуру Linux с рантаймом KART и средой исполнения системных агентов, а также три функции рабочего стола openKylin 3.0. В публикации MarkTechPost от 15 октября говорится, что доклад исполнительного директора проекта Мин Лю состоялся 8 октября. Там же передано заявление openKylin об ускорении инференса FP32 на RISC-V.
Архитектура: от моделей до системных действий
В докладе «From AI Runtime to System Agents: Reimagining Linux for the AI Era with openKylin» описаны три слоя. Нижний объединяет унифицированный рантайм KART и локальный движок инференса kytensor, которые, по описанию проекта, предоставляют общие службы для запуска моделей. Среда исполнения агентов поддерживает KylinBot, Kylin-CUA и сторонние разработки. Верхний слой включает API-инструменты и навыки взаимодействия с графическим интерфейсом Linux.
По замыслу openKylin, агент сможет разбирать задачу, планировать шаги, выполнять их через системные инструменты и наблюдать за результатом. В описании архитектуры также упомянуты ограничения разрешений и мониторинг исполнения: эти механизмы должны регулировать действия агентов, обращающихся к функциям системы.
Три функции рабочего стола openKylin 3.0
Для версии 3.0 названы AI Assistant, Global Intelligent Search и Intelligent Space. Первый предназначен для взаимодействия через намерения пользователя; второй — для семантического поиска, а не только поиска по известному расположению файлов и сведений; третий группирует информацию вокруг задач, а не папок. Это описание функций, приведённое MarkTechPost со ссылкой на openKylin.
Заявление об ускорении на RISC-V
По данным MarkTechPost, openKylin заявила, что оптимизации ядер с использованием векторного расширения RVV ускоряют инференс FP32 в ONNX Runtime в 2–5 раз. В публикации также указана поддержка инференса на CPU с vLLM на SpacemiT K3 и перечислены форматы распространения: .deb, Python wheels, Conda и Docker. Проект планирует предложить оптимизации RVV и работы по поддержке инференсных фреймворков для включения в upstream.
Саммит проходил в Праге с 7 по 9 октября; отдельный доклад о Linux для RISC-V провёл член технического комитета сообщества Цзяньфэн Ли, сообщает MarkTechPost. Описанные функции и архитектура представлены как сведения проекта, а ускорение — как его заявление: публикация не приводит конфигурацию оборудования, модели или методику сравнения, и независимых измерений в доступных материалах нет. В ней также не уточнены доступность функций для пользователей и условия распространения перечисленных пакетов.
