Руководство по поиску RAG и векторов
Создайте семантический поиск и конвейер расширенной генерации (RAG) с помощью pgvector и шлюза AI Aurabase.
RAG на Aurabase в 3 шага#
RAG позволяет вашим моделям ИИ точно реагировать на ваши личные данные без переобучения:
- Векторизация: Ваши текстовые документы преобразуются в цифровые векторы с помощью
aura.ai.embed(). - Хранение и индексирование: векторы хранятся в PostgreSQL с собственным расширением
pgvector. - Дополнение и ответ: Вопрос сравнивается с сохраненными векторами, и соответствующие фрагменты передаются в LLM через
aura.ai.chat().
Полный код конвейера RAG#
import { aura } from '@/lib/aurabase'
export async function indexDocument(content: string, metadata: Record<string, any>) {
// Расчет векторного внедрения через AI Gateway Aurabase
const { vectors } = await aura.ai.embed({
provider: 'openai',
model: 'text-embedding-3-small',
input: [content],
})
// Сохранение в таблице PostgreSQL.
const { data, error } = await aura.from('documents').insert({
content,
metadata,
embedding: vectors[0],
})
return { data, error }
}
HNSW индексирование для запросов менее 10 мс#
Для баз данных, содержащих сотни тысяч векторов, индексация HNSW (Hierarchical Navigable Small World) обеспечивает значительно лучшую производительность поиска, чем ivfflat:
Индекс HNSW (рекомендуется)
Нулевое время предварительного обучения, полнота > 99 % и постоянная задержка даже при непрерывной вставке новых документов.
Косинусное расстояние (<=>)
Используйте оператор <=>, чтобы вычислить нормализованное косинусное расстояние между векторами внедрения.
Семантический кеш и экономия токенов#
AI Gateway Aurabase интегрирует автоматический семантический кеш : если два пользователя задают одинаковый вопрос (сходство косинуса больше 0,95), ответ подается из кэша в памяти менее чем за 2 мс, что экономит 100% стоимости вызова LLM.