Przewodnik wyszukiwania RAG i wektorów
Zbuduj błyskawiczne wyszukiwanie semantyczne i kompleksowy system generowania rozszerzonego wyszukiwania (RAG), łączący PostgreSQL pgvector i ujednoliconą bramę AI Aurabase.
RAG na Aurabase w 3 krokach
RAG umożliwia modelom AI dokładne reagowanie na Twoje prywatne dane bez konieczności ponownego szkolenia:
- Wektoryzacja: Twoje dokumenty tekstowe są przekształcane na cyfrowe wektory za pomocą
aura.ai.embed(). - Przechowywanie i indeksowanie: Wektory są przechowywane w PostgreSQL z natywnym rozszerzeniem
pgvector. - Rozszerzanie i odpowiedź: Pytanie jest porównywane z przechowywanymi wektorami, a odpowiednie fragmenty są dostarczane do LLM poprzez
aura.ai.chat().
Pełny kod rurociągu RAG
Indeksowanie HNSW dla zapytań krótszych niż 10 ms
W przypadku baz danych zawierających setki tysięcy wektorów indeksowanie HNSW (Hierarchical Navigable Small World) zapewnia znacznie lepszą wydajność wyszukiwania niż ivfflat:
Indeks HNSW (zalecany)
Zerowy czas wstępnego szkolenia, przywołanie > 99% i stałe opóźnienie nawet przy ciągłym wstawianiu nowych dokumentów.
Odległość cosinusa (<=>)
Użyj operatora <=>, aby obliczyć znormalizowaną odległość cosinus pomiędzy wektorami osadzania.
Semantyczna pamięć podręczna i oszczędności tokenów
AI Gateway firmy Aurabase integruje automatyczną semantyczną pamięć podręczną : jeśli dwóch użytkowników zada podobne pytanie (podobieństwo cosinusowe większe niż 0,95), odpowiedź jest dostarczana z pamięci podręcznej w pamięci w w czasie krótszym niż 2 ms, oszczędzając 100% kosztów połączeń LLM.