Survival AI заявляет офлайн-работу с локальной моделью и библиотеками Kiwix

Survival AI заявляет офлайн-работу с локальной моделью и библиотеками Kiwix. В README описаны требования к памяти и подготовка набора для компьютера или USB-накопителя.

Survival AI заявляет офлайн-работу с локальной моделью и библиотеками Kiwix. Тематическая карточка Comrad404.

Survival AI — проект офлайн-ассистента, который, согласно README на GitHub, рассчитан на работу с локальной языковой моделью и библиотеками Kiwix на Windows, Linux и macOS. README описывает подготовку набора онлайн и его последующее использование с компьютера или USB-накопителя. Дата создания проекта в доступном описании не указана.

Схема: Что входит в Survival AI README представляет Survival AI как ассистента для поиска по локальным материалам и формирования ответов.; Проект заявляет, что подготовленный комплект работает с локальными файлами и не отправляет данные в интернет.; Ограничения Основной источник — README проекта Survival AI .
Основные элементы, разобранные в статье.

Что входит в Survival AI

README представляет Survival AI как ассистента для поиска по локальным материалам и формирования ответов. В проекте также заявлен режим без языковой модели: на компьютере с Python он должен искать подходящие фрагменты руководств, не создавая ответ генеративной моделью.

Интернет, согласно описанию, нужен для однократной подготовки набора и загрузки компонентов. После этого программа должна обращаться к локальным файлам.

Как формируется ответ

Описанная в README схема сначала ищет информацию во встроенных руководствах с помощью BM25, затем — в офлайн-библиотеках Kiwix в формате ZIM. Локальная языковая модель должна использовать найденные материалы для ответа с указанием источников. Если модель не установлена, проект обещает показать наиболее релевантные фрагменты.

Для работы предусмотрен веб-интерфейс в браузере. README также заявляет, что к нему можно подключать другие телефоны по локальной Wi-Fi-сети без доступа этой сети к интернету.

Требования к модели и библиотекам

В README приведены три варианта модели: около 1 ГБ при заявленных 4 ГБ оперативной памяти, 2 ГБ при 8 ГБ и 4,7 ГБ при 16 ГБ. Вариант на 2 ГБ назван рекомендуемым. Это ориентиры самого проекта, а не результаты независимого замера производительности.

Для библиотек Kiwix указаны ориентировочные объёмы: 3–5 ГБ для минимального набора, 25–40 ГБ для рекомендуемого и более 100 ГБ для полного набора с Википедией. Среди примеров в README названы медицинская Википедия, руководства после катастроф, Where There Is No Doctor, wikiHow и iFixit.

Подготовка и запуск

Согласно README, пользователь сначала получает файлы проекта и запускает подготовщик для своей операционной системы: в описании приведены отдельные варианты для Windows, macOS и Linux. Затем выбираются модель, объём библиотек и целевые системы; предусмотрен также универсальный набор для нескольких систем. После подготовки папку можно перенести на USB-накопитель или внешний диск.

Проект заявляет, что подготовленный комплект работает с локальными файлами и не отправляет данные в интернет. Фактический запуск и совместимость на разных компьютерах редакция не проверяла.

Ограничения

Основной источник — README проекта Survival AI. В нём не указана дата создания проекта; заявленные системные требования, объёмы библиотек и работа на разных операционных системах независимо не проверены. Сам README предупреждает, что материалы носят образовательный характер и не заменяют врачей, пожарных или экстренные службы.