Guida alla ricerca di RAG e vettori
Costruisci una ricerca semantica velocissima e un sistema RAG (Retrieval-Augmented Generation) completo che combina PostgreSQL pgctor e il gateway AI unificato di Aurabase.
RAG su Aurabase in 3 passaggi
RAG consente ai tuoi modelli di intelligenza artificiale di rispondere in modo accurato sui tuoi dati privati senza riqualificazione:
- Vettorializzazione: i tuoi documenti testuali vengono trasformati in vettori digitali utilizzando
aura.ai.embed(). - Archiviazione e indicizzazione: i vettori vengono archiviati in PostgreSQL con l'estensione nativa
pgvector. - Aumento e risposta: la domanda viene confrontata con i vettori memorizzati e i frammenti pertinenti vengono forniti a LLM tramite
aura.ai.chat().
Codice completo della pipeline RAG
Indicizzazione HNSW per query inferiori a 10 ms
Per i database contenenti centinaia di migliaia di vettori, l'indicizzazione HNSW (Hierarchical Navigable Small World) fornisce prestazioni di ricerca significativamente migliori rispetto a ivfflat:
Indice HNSW (consigliato)
Zero tempi di pre-training, richiamo > 99% e latenza costante anche con continui inserimenti di nuovi documenti.
Distanza coseno (<=>)
Utilizzare l'operatore <=> per calcolare la distanza coseno normalizzata tra i vettori di incorporamento.
Cache semantica e risparmio di token
AI Gateway di Aurabase integra una cache semantica automatica: se due utenti fanno una domanda simile (somiglianza coseno maggiore di 0,95), la risposta viene fornita dalla cache in memoria in meno di 2 ms, risparmiando il 100% del costo della chiamata LLM.