Guía de búsqueda de RAG y vectores
Cree una búsqueda semántica y un canal de generación aumentada de recuperación (RAG) con pgvector y Aurabase AI Gateway.
RAG en Aurabase en 3 pasos#
RAG permite que sus modelos de IA respondan con precisión a sus propios datos privados sin necesidad de volver a capacitarlos:
- Vectorización: Tus documentos textuales se transforman en vectores digitales usando
aura.ai.embed(). - Almacenamiento e indexación: Los vectores se almacenan en PostgreSQL con la extensión nativa
pgvector. - Aumento y respuesta: la pregunta se compara con los vectores almacenados y los fragmentos relevantes se proporcionan al LLM a través de
aura.ai.chat().
Código completo de tubería RAG#
import { aura } from '@/lib/aurabase'
export async function indexDocument(content: string, metadata: Record<string, any>) {
// Cálculo de la incrustación de vectores a través de AI Gateway Aurabase
const { vectors } = await aura.ai.embed({
provider: 'openai',
model: 'text-embedding-3-small',
input: [content],
})
// Guardar en la tabla PostgreSQL
const { data, error } = await aura.from('documents').insert({
content,
metadata,
embedding: vectors[0],
})
return { data, error }
}
HNSW indexación para consultas de menos de 10 ms#
Para bases de datos que contienen cientos de miles de vectores, la indexación HNSW (pequeño mundo navegable jerárquico) proporciona un rendimiento de búsqueda significativamente mejor que ivfflat:
Índice HNSW (recomendado)
Tiempo de preentrenamiento cero, recuperación > 99 % y latencia constante incluso con inserciones continuas de nuevos documentos.
Distancia del coseno (<=>)
Utilice el operador <=> para calcular la distancia del coseno normalizado entre los vectores de incrustación.
Caché semántica y ahorro de tokens#
AI Gateway de Aurabase integra un caché semántico automático: si dos usuarios hacen una pregunta similar (similitud de coseno mayor que 0,95), la respuesta se entrega desde el caché en memoria en en menos de 2 ms, ahorrando el 100% del costo de la llamada LLM.