К содержимому
AI и данные

Векторная база — хранилище эмбеддингов

База данных, которая хранит векторы и быстро находит ближайшие к запросу. Инфраструктурный слой поиска по смыслу и RAG-систем.

Также встречается как: vector database, векторное хранилище

Коротко. Векторная база — хранилище эмбеддингов с быстрым поиском ближайших соседей: по вектору запроса она возвращает наиболее близкие по смыслу записи.

Отдельная база или расширение обычной

Два подхода. Первый — специализированные векторные базы. Второй — векторное расширение к обычной СУБД, например pgvector для PostgreSQL.

Для раннего проекта второй вариант почти всегда лучше: у вас уже есть база, вы не добавляете новый сервис в инфраструктуру, а данные и векторы лежат рядом и не расходятся. Отдельное хранилище оправдано на десятках миллионов векторов.

Что в ней хранят

Кроме самого вектора — исходный текст фрагмента и метаданные: документ-источник, дату, права доступа, версию. Метаданные критичны: без фильтрации по ним поиск легко выдаст пользователю фрагмент чужого документа.

Зачем фаундеру

Это самая переоценённая часть AI-стека. Выбор конкретного хранилища почти не влияет на качество продукта — влияют нарезка документов, качество эмбеддингов и логика поиска.

Поэтому разумный порядок: начать с расширения к существующей базе и менять только тогда, когда упрётесь в объём.

Где ошибаются

Начинают проект с выбора векторной базы. Это последний по важности вопрос из всех.

Забывают про права доступа. Поиск обязан фильтровать по тому, что пользователю разрешено видеть, — иначе утечка данных встроена в продукт.

Не хранят версию модели эмбеддингов. При обновлении модели без этого невозможно понять, что пересчитывать.

Разобрать это на своём проекте

Мы доводим идеи фаундеров до работающего MVP за долю в компании. Расскажите про свою — посмотрим на цифры вместе.

Оставить заявку

Рядом в словаре

Эмбеддинг

Представление текста, картинки или товара набором чисел, где близкие по смыслу объекты оказываются рядом. Основа поиска по смыслу и рекомендаций.

RAG

Схема, при которой перед ответом система находит нужные фрагменты в вашей базе и передаёт их модели. Способ отвечать по своим данным без дообучения.

Галлюцинация

Правдоподобный, но неверный ответ модели: несуществующие факты, ссылки и цитаты. Свойство технологии, а не поломка, — с ним работают, а не чинят.

Дистилляция

Обучение компактной модели на ответах крупной, чтобы получить близкое качество на узкой задаче за меньшие деньги и с меньшей задержкой.

Диффузионная модель

Модель, которая создаёт изображение, постепенно убирая шум по текстовому описанию. Технология за большинством генераторов картинок и видео.

Инференс

Применение уже обученной модели к новым данным: то, за что вы платите в продакшене каждый день, в отличие от разового обучения.