Guida alla ricerca di RAG e vettori
Crea una ricerca semantica e una pipeline RAG (Retrieval-Augmented Generation) con pgvector e Aurabase AI Gateway.
RAG su Aurabase in 3 passaggi#
RAG consente ai tuoi modelli di intelligenza artificiale di rispondere in modo accurato sui tuoi dati privati senza riqualificazione:
- Vettorializzazione: i tuoi documenti testuali vengono trasformati in vettori digitali utilizzando
aura.ai.embed(). - Archiviazione e indicizzazione: i vettori sono archiviati in PostgreSQL con l'estensione nativa
pgvector. - Aumento e risposta: la domanda viene confrontata con i vettori memorizzati e i frammenti pertinenti vengono forniti a LLM tramite
aura.ai.chat().
Codice completo della pipeline RAG#
import { aura } from '@/lib/aurabase'
export async function indexDocument(content: string, metadata: Record<string, any>) {
// Calcolo dell'incorporamento del vettore tramite AI Gateway Aurabase
const { vectors } = await aura.ai.embed({
provider: 'openai',
model: 'text-embedding-3-small',
input: [content],
})
// Salvataggio nella tabella PostgreSQL
const { data, error } = await aura.from('documents').insert({
content,
metadata,
embedding: vectors[0],
})
return { data, error }
}
HNSW indicizzazione per query inferiori a 10 ms#
Per i database contenenti centinaia di migliaia di vettori, l'indicizzazione HNSW (Hierarchical Navigable Small World) fornisce prestazioni di ricerca significativamente migliori rispetto a ivfflat:
HNSW Indice (consigliato)
Zero tempi di pre-training, richiamo > 99% e latenza costante anche con continui inserimenti di nuovi documenti.
Distanza coseno (<=>)
Utilizzare l'operatore <=> per calcolare la distanza coseno normalizzata tra i vettori di incorporamento.
Cache semantica e risparmio di token#
L'AI Gateway di Aurabase integra una cache semantica automatica: se due utenti fanno una domanda simile (somiglianza coseno maggiore di 0,95), la risposta viene servita dalla cache in memoria in meno di 2 ms, risparmiando il 100% del costo della chiamata LLM.