Guía de búsqueda de RAG y vectores
Cree una búsqueda semántica ultrarrápida y un sistema integral de generación aumentada de recuperación (RAG) que combine pgvector de PostgreSQL y el AI Gateway unificado de Aurabase.
RAG en Aurabase en 3 pasos
RAG permite que sus modelos de IA respondan con precisión a sus propios datos privados sin necesidad de volver a capacitarlos:
- Vectorización: Tus documentos textuales se transforman en vectores digitales usando
aura.ai.embed(). - Almacenamiento e indexación: los vectores se almacenan en PostgreSQL con la extensión nativa
pgvector. - Aumento y respuesta: la pregunta se compara con los vectores almacenados y los fragmentos relevantes se proporcionan al LLM a través de
aura.ai.chat().
Código completo de tubería RAG
Indexación HNSW para consultas de menos de 10 ms
Para bases de datos que contienen cientos de miles de vectores, la indexación HNSW (Hierarchical Navigable Small World) proporciona un rendimiento de búsqueda significativamente mejor que ivfflat:
Índice HNSW (recomendado)
Tiempo de preentrenamiento cero, recuperación > 99 % y latencia constante incluso con inserciones continuas de nuevos documentos.
Distancia del coseno (<=>)
Utilice el operador <=> para calcular la distancia del coseno normalizado entre los vectores de incrustación.
Caché semántica y ahorro de tokens
AI Gateway de Aurabase integra un caché semántico automático: si dos usuarios hacen una pregunta similar (similitud de coseno mayor que 0,95), la respuesta se entrega desde el caché en memoria en menos de 2 ms, ahorrando el 100% del costo de la llamada LLM.