Руководство по поиску RAG и векторов
Создайте молниеносную систему семантического поиска и комплексную систему расширенной генерации данных (RAG), объединяющую PostgreSQL pgvector и унифицированный AI Gateway от Aurabase.
RAG на Aurabase за 3 шага
RAG позволяет вашим моделям ИИ точно реагировать на ваши личные данные без переобучения:
- Векторизация: Ваши текстовые документы преобразуются в цифровые векторы с помощью
aura.ai.embed(). - Хранение и индексирование: векторы хранятся в PostgreSQL с собственным расширением
pgvector. - Дополнение и ответ: Вопрос сравнивается с сохраненными векторами, и соответствующие фрагменты передаются в LLM через
aura.ai.chat().
Полный код конвейера RAG
Индексация HNSW для запросов менее 10 мс
Для баз данных, содержащих сотни тысяч векторов, индексация HNSW (Hierarchical Navigable Small World) обеспечивает значительно лучшую производительность поиска, чем ivfflat:
Индекс HNSW (рекомендуется)
Нулевое время предварительного обучения, полнота > 99 % и постоянная задержка даже при непрерывной вставке новых документов.
Косинусное расстояние (<=>)
Используйте оператор <=>, чтобы вычислить нормализованное косинусное расстояние между векторами внедрения.
Семантический кеш и экономия токенов
AI Gateway от Aurabase интегрирует автоматический семантический кеш : если два пользователя задают одинаковый вопрос (косинусное сходство больше 0,95), ответ подается из кэша в памяти менее чем за 2 мс, экономя 100% стоимости вызова LLM.