Semantic Overlays: NX-бит для языковых моделей — защита от промпт-инъекций на уровне архитектуры
Новый метод защиты LLM от промпт-инъекций — Semantic Overlays. Небольшие обученные адаптеры на замороженной модели меняют то, как она воспринимает...
Тема COMRAD404
operativnaya-lenta — страница 17
353 материалов
Обсуждение в Reddit: кто реальный бенефициар автоматизации на базе ИИ
В сообществе r/artificial обсуждают неизбежное перераспределение благ при масштабном внедрении ИИ-агентов в логистике, продажах, терапии и креативных индустриях. Разбираем экономические...
Paper Pilot: система с «человеком в цикле» для генерации научных статей с отслеживаемыми доказательствами
Исследователи представили Paper Pilot — экспертную систему с обязательными точками утверждения человеком и блокировкой необоснованных утверждений. В тестах система полностью...
DS-Lighting: исследователи представили открытый инструментарий для создания явных обвязок агентов Data Science
Группа исследователей из HKUST выпустила DS-Lighting — унифицированный набор инструментов для создания явных обвязок (harness) LLM-агентов, автоматизирующих задачи Data Science....
Kiso предлагает одну базу знаний для людей и AI-агентов
Open-source проект Kiso публикует OKF-бандлы как статический сайт: HTML для людей, Markdown, llms.txt и sitemap.xml для агентов и поисковых систем.
NVIDIA покупает Hugging Face, ChatGPT вводит рекламу, корпорации отменяют контракты на софт: три главных сигнала недели для AI-разработчика
NVIDIA покупает Hugging Face за $12,9 млрд. ChatGPT запускает рекламу в 31 стране Европы. 32% компаний отменили закупку софта —...
pg-dry-run предлагает безопасный предпросмотр записей Postgres для AI-агентов
На GitHub появился pg-dry-run: библиотека для предварительного просмотра INSERT, UPDATE и DELETE в Postgres как JSON-предложений с последующим защищённым применением.
TrustedRouter привлёк $1,25 млн: новый взгляд на приватные AI-роутеры и краудсорсинг бенчмарков
Стартап TrustedRouter, позиционирующий себя как приватная альтернатива OpenRouter, привлёк $1,25 млн. Вместе с роутером представлена платформа anyeval.com — краудсорсинговый сервис...
1endpoint – дешёвый доступ к AI-моделям через унифицированный шлюз
На Hacker News появился проект 1endpoint — унифицированный шлюз для инференса AI-моделей. Авторы обещают значительно более низкие цены по сравнению...
VelocityNote: компактный блокнот с локальным ИИ на десктопе
На Hacker News представлен VelocityNote — кросс-платформенное Markdown-приложение для заметок размером менее 100 МБ, которое запускает локальные модели ИИ (языковую,...