Выбор между FLINT, ColBERTv2, ConstBERT и одно-векторным биэнкодером зависит от того, насколько важны точное сопоставление отдельных частей запроса, размер индекса и задержка. В препринте FLINT представлена как компромиссная архитектура: она сохраняет несколько векторов для каждого документа, но ограничивает их число и симметрично ограничивает представление запроса. Приведённые авторами показатели — результаты их экспериментов, а не независимый рейтинг и не тест редакции.
Основной источник сравнения — препринт FLINT на arXiv, версия 1 от 19 октября 2026 года, авторы — Himank Handa, Negar Arabzadeh и Matei Zaharia.
Критерии: представления, индекс и цена поиска
У одно-векторного биэнкодера на документ приходится один вектор. Это компактное представление и простой ориентир, когда важны размер хранилища и быстрый поиск. Но по сравнению с поздним взаимодействием один вектор оставляет меньше возможностей для сопоставления отдельных токенов запроса и документа.
ColBERTv2 сохраняет токеновые представления документов и использует позднее взаимодействие: запрос сопоставляется с документом на уровне токенов. Как описывают авторы FLINT, ColBERTv2 применяет остаточное сжатие, уменьшая занимаемое место, но документный индекс всё равно содержит больше векторов, чем одно-векторная схема. Такая детализация может быть полезна, если важнее точность сопоставления, чем минимальный размер индекса.
ConstBERT ограничивает представление документа 32 векторами, но оставляет отдельный вектор для каждого токена запроса. Поэтому его вычислительная нагрузка при поиске может расти вместе с длиной и сложностью запроса. FLINT применяет attention-based pooling к обеим сторонам: и к запросу, и к документу, сводя каждую последовательность к фиксированному числу векторов. Это ограничивает объём хранения документов независимо от их длины и число сравнений при поиске.
Что показывают опубликованные оценки качества
На BEIR авторы препринта сообщают о сопоставимом качестве ранжирования FLINT и ближайших базовых моделей. На нескольких наборах с длинными или сложными запросами — BrowseComp+, CRUMB и TREC Tip-of-the-Tongue 2025 — авторы также сообщают о лучших результатах FLINT. Эти оценки относятся к указанным экспериментам и наборам данных и не доказывают, что модель будет лучше на любом корпусе.
Авторы проверяли FLINT с двумя базовыми архитектурами энкодера — BERT и ModernBERT — и оценивали её на стандартных наборах поиска, а также на тестах с более длинными и сложными запросами. Это описывает охват опубликованной оценки, но не позволяет предсказать качество на конкретной поисковой системе без испытаний на её данных.
Различия в задержке и размере индекса
| Вариант | Представление | Что следует учитывать | Данные из препринта |
|---|---|---|---|
| Одно-векторный биэнкодер | Один вектор на документ | Компактная схема; меньше возможностей для токенового сопоставления | Численных сравнительных показателей в доступном описании нет |
| ColBERTv2 | Токеновые векторы документов; остаточное сжатие | Подробное позднее взаимодействие, но индекс требует хранения множества векторов | Авторы FLINT заявляют, что её индекс меньше в 5,3–9,3 раза относительно моделей токенового позднего взаимодействия, таких как ColBERTv2 |
| ConstBERT | 32 вектора на документ; по вектору на токен запроса | Стоимость поиска растёт с длиной и сложностью запроса | На корпусах с длинными запросами авторы сообщают для FLINT сквозной поиск в 1,5–2,8 раза быстрее |
| FLINT | Фиксированное число векторов и для запроса, и для документа | Ограничивает размер документного представления и число сравнений | Сопоставимое качество на BEIR и лучшие результаты на нескольких наборах со сложными запросами — по оценке авторов |
Числа об ускорении и размере индекса опубликованы авторами препринта. Ускорение 1,5–2,8 раза относится к сквозному поиску FLINT относительно ConstBERT на корпусах с длинными запросами; уменьшение индекса в 5,3–9,3 раза заявлено относительно токеновых моделей позднего взаимодействия, включая ColBERTv2. Эти показатели нельзя напрямую переносить на другую инфраструктуру или считать сравнением общей стоимости внедрения: в опубликованных результатах нет универсальной оценки затрат эксплуатации.
Как выбирать архитектуру по ситуации
Начните с одно-векторного биэнкодера, если главный критерий — компактное представление документов, а запросы не требуют максимальной детализации сопоставления. Это разумный ориентир для систем, где размер индекса важнее выигрыша на сложных запросах. При этом источник не приводит здесь численных измерений скорости или качества биэнкодера для конкретной конфигурации.
Рассматривайте ColBERTv2, если необходимо токеновое взаимодействие и вы готовы к более крупному индексу ради такого представления. Сжатие уменьшает его размер, но не превращает токеновый индекс в одно-векторный. Для корпусов с длинными запросами сравните также ConstBERT и FLINT: первый фиксирует число векторов документа на 32, второй ограничивает число векторов и запроса, и документа. По описанию архитектуры FLINT уместно включить в сравнение, когда длина запроса может увеличивать вычислительную нагрузку.
FLINT стоит включить в список кандидатов, если одновременно важны длинные запросы, ограниченный индекс и позднее взаимодействие. Заявленные авторами результаты делают её вариантом для проверки, но не универсальным победителем. Выбирайте между моделями по качеству на собственных запросах и корпусе, а также по измеренным на целевой инфраструктуре задержке и размеру индекса.
Ограничения сравнения
Сравнение опирается на один препринт и оценки его авторов; независимых тестов в доступных материалах нет. Авторы сообщают о результатах на BEIR и нескольких наборах с длинными и сложными запросами, но эти данные не позволяют объявить одну архитектуру лучшей для всех поисковых задач. Универсальных данных о стоимости внедрения или эксплуатации также нет. Поэтому опубликованные числа помогают определить кандидатов и критерии проверки, но не заменяют оценку на конкретной системе.
