RAG ve Vektör Arama Kılavuzu
pgvector ve Aurabase AI Ağ Geçidi ile anlamsal arama ve Almayla Artırılmış Nesil (RAG) ardışık düzeni oluşturun.
3 adımda Aurabase üzerinde RAG#
RAG, yapay zeka modellerinizin yeniden eğitim gerektirmeden kendi özel verilerinize doğru şekilde yanıt vermesini sağlar:
- Vektörleştirme: Metinsel belgeleriniz
aura.ai.embed()kullanılarak dijital vektörlere dönüştürülür. - Depolama ve Dizin Oluşturma: Vektörler, PostgreSQL yerel uzantısıyla
pgvectoriçinde depolanır. - Büyütme ve Cevap: Soru, depolanan vektörlerle karşılaştırılır ve ilgili parçacıklar
aura.ai.chat()aracılığıyla LLM'ye sunulur.
Tam RAG boru hattı kodu#
import { aura } from '@/lib/aurabase'
export async function indexDocument(content: string, metadata: Record<string, any>) {
// AI Ağ Geçidi aracılığıyla vektör yerleştirmenin hesaplanması Aurabase
const { vectors } = await aura.ai.embed({
provider: 'openai',
model: 'text-embedding-3-small',
input: [content],
})
// PostgreSQL tablosuna kaydediliyor
const { data, error } = await aura.from('documents').insert({
content,
metadata,
embedding: vectors[0],
})
return { data, error }
}
HNSW 10 ms'nin altındaki sorgular için indeksleme#
Yüz binlerce vektör içeren veritabanları için, HNSW (Hiyerarşik Gezinilebilir Küçük Dünya) indeksleme, ivfflat'den önemli ölçüde daha iyi arama performansı sağlar:
HNSW Dizin (Önerilen)
Sıfır ön eğitim süresi, > %99 geri çağırma ve sürekli yeni belge eklenmesinde bile sabit gecikme süresi.
Kosinüs Mesafesi (<=>)
Gömme vektörleri arasındaki normalleştirilmiş kosinüs mesafesini hesaplamak için <=> operatörünü kullanın.
Anlamsal önbellek ve belirteç tasarrufları#
Aurabase AI Ağ Geçidi otomatik bir anlamsal önbellek entegre eder: iki kullanıcı benzer bir soru sorarsa (kosinüs benzerliği 0,95'ten büyük), yanıt içinde 2 ms'den daha kısa sürede bellek içi önbellekten sunulur ve LLM çağrı maliyetinden %100 tasarruf edilir.