RAG 和矢量搜索指南
使用 pgvector 和 Aurabase AI 网关构建语义搜索和检索增强生成 (RAG) 管道。
该页面已自动翻译。英文版具有权威性。
Aurabase 上的 RAG 只需 3 个步骤#
RAG 允许您的 AI 模型对您自己的私人数据做出准确响应,而无需重新训练:
- 矢量化:使用
aura.ai.embed()将文本文档转换为数字向量。 - 存储和索引:向量存储在 PostgreSQL 中,具有本机扩展名
pgvector。 - 增强和答案:将问题与存储的向量进行比较,并通过
aura.ai.chat()向法学硕士提供相关片段。
完整的 RAG 管道代码#
typescript
import { aura } from '@/lib/aurabase'
export async function indexDocument(content: string, metadata: Record<string, any>) {
// 通过AI网关Aurabase计算向量嵌入
const { vectors } = await aura.ai.embed({
provider: 'openai',
model: 'text-embedding-3-small',
input: [content],
})
// 保存在 PostgreSQL 表中
const { data, error } = await aura.from('documents').insert({
content,
metadata,
embedding: vectors[0],
})
return { data, error }
}
HNSW 用于 10 毫秒以下查询的索引#
对于包含数十万个向量的数据库,HNSW(分层可导航小世界)索引 提供比 ivfflat显着更好的搜索性能:
HNSW 索引(推荐)
零预训练时间,召回率 > 99%,即使连续插入新文档也能保持恒定的延迟。
余弦距离 (<=>)
使用 <=> 运算符计算嵌入向量之间的归一化余弦距离。
语义缓存和令牌节省#
Aurabase的 AI 网关集成了自动 语义缓存:如果两个用户提出相似的问题(余弦相似度大于 0.95),则从 中的内存缓存提供答案,耗时小于 2 毫秒,节省 100% 的 LLM 调用成本。