Google открыла ИИ, который ничего не пишет. Зато находит нужное

Вместо ответа — координаты

Эта модель создаёт числовое представление материала. Система сравнивает такие представления и выбирает ближайшие. Дальше найденные фрагменты можно показать человеку или передать другой модели для ответа.

Это легко объяснить на условной библиотеке. Запрос «тот разговор про перенос запуска» может оказаться ближе к записи встречи, чем к файлу с точным словом «запуск», который относится к совершенно другому проекту. Но близость ещё нужно проверить: похожие темы и правильные документы иногда расходятся.

Полная модель содержит 740 млн параметров; ненужные аудио- и визуальные части можно не загружать. Google указывает более 100 языков, контекст 8K и векторы длиной 768, 512, 256 или 128 чисел. Модель выпускается по Apache 2.0. Поддержка языка не означает одинакового качества поиска на каждом из них.

Миллион файлов — и понятная арифметика

Посчитаем только векторы, без индекса и метаданных. Если одно число занимает четыре байта, миллион представлений по 768 чисел потребует 3,072 ГБ в десятичном счёте. По 256 чисел — 1,024 ГБ. По 128 — 0,512 ГБ.

Переход 768 → 256 сокращает эту часть хранилища втрое, 768 → 128 — вшестеро. Это самостоятельный расчёт, а не замер готовой базы. Настоящая система дополнительно хранит тексты, права доступа, служебные структуры и сам поисковый индекс.

Уменьшение вектора тоже требует проверки качества. Сэкономить память и потерять нужный документ — сомнительная победа.

Проверять лучше на собственной путанице

Для пилота достаточно собрать небольшой набор реальных вопросов и отметить, какой файл должен находиться первым. Затем посмотреть, сколько раз поиск угадал, сколько раз предложил похожее и сколько раз промолчал.

Особенно показательны запросы, которые плохо работают по ключевым словам: описание картинки, пересказ фразы из записи, смысл функции в коде. Так станет видно, помогает ли новая модель именно вашей библиотеке.