Bu makale, OpenAI tarafından yayınlanan resmi belgelere, OpenAI geliştirici topluluğu tartışmalarında toplanan ekip geri bildirimlerine ve bu üç boyutlu sınıfları yerel olarak üç farklı vektör sütununa yönlendiren Aurabase kodunda doğrulanan davranışa dayanmaktadır. Her dış figürün tarihi ve kaynağı vardır; Kendi ölçümlerimize uyguladığımız metodoloji için kıyaslama metodolojisi sütunumuza bakın.
- 1536 boyutları, çoğu durumda en dengeli seçim olmaya devam ediyor: pgvector'nin yerel HNSW desteğinden ayrılmadan, yerel metin yerleştirme-3-küçük veya kesilmiş metin yerleştirme-3-büyük.
- 3072 boyutları (text-embedding-3-large), OpenAI tarafından yayınlanan en yüksek MTEB skorunu sunar (%64,6'ya karşı %62,3), ancak pgvector'nin
vectortürünün 2000 boyut sınırını aşar: HNSW dizini,halfvec'ye bir dönüşüm gerektirir. - OpenAI
dimensionsparametresi (Matryoshka tekniği) aracılığıyla bir yerleştirmenin kesilmesi, depolamayı azaltır ve aramayı hızlandırır ancak fiyatı düşürmez: bu, döndürülen vektörün boyutuna değil, sorgulanan modele bağlıdır. halfvecdepolama (boyut başına 2 bayt) sayesinde, 3072 boyutlu bir vektör Aurabase'de klasikvector'deki (boyut başına 4 bayt) 1536 vektörüyle aynı ham disk alanını kaplar: yaklaşık 6 KB.- Aurabase yerel olarak tam olarak 3 boyut sınıfını destekler, 768, 1536 ve 3072, her biri kendi sütunundadır (
aura-ai/src/embeddings/mod.rsiçinde işaretlenmiştir): serbest boyut alanı yoktur.
768, 1536 veya 3072: Her seviyede gerçekte ne değişiyor?
Açıkçası, kesmeden bahsetmeden önce, metin gömme-3-küçük ve metin-gömme-3-büyük arasında seçim yapmak, ilk olarak 1536 ile 3072 yerel boyut arasında seçim yapmak anlamına gelir. Aşağıdaki tablo, pgvector'nin indeksleme tarafında yerel olarak tanıdığı üç düzeydeki ve Aurabase rotasındaki doğrulanabilir gerçekleri özetlemektedir.
| Kriter | 768 boyut | 1536 boyut | 3072 boyut |
|---|---|---|---|
| İlgili model(ler) | OpenAI kesme veya eski/açık kaynak (yerel) model | metin yerleştirme-3-küçük (yerel) veya kesilmiş 3-büyük | metin gömme-3-büyük (yerel) |
| Ortalama MTEB puanı | OpenAI tarafından bu boyutta yerel olarak yayınlanmadı | 62,3 % | 64,6 % |
| Gösterge niteliğindeki OpenAI fiyatı / 1 milyon token | boyutuna değil sorgulanan modele bağlıdır | 0,02 ABD doları (küçük) veya 0,13 ABD doları (büyük kesilmiş) | 0,13 USD (metin yerleştirme-3-büyük) |
| Brüt depolanan ağırlık / vektör | 3 KB (float32) | 6 KB (float32) | 12 KB (vektör) veya 6 KB (halfvec, Aurabase) |
| Yerel HNSW pgvector dizini | evet | evet | hayır: halfvec dökümü gerekli (>2000 loş) |
| Aurabase sütunu (doğrulanmış kod) | yerleştirme_768 | yerleştirme_1536 | yerleştirme_3072 |
Kaynaklar: OpenAI, resmi blog "Yeni yerleştirme modelleri ve API güncellemeleri", 25 Ocak 2024 (MTEB puanları ve lansman fiyatları, kullanımdan önce mevcut fiyatlandırma sayfasını kontrol edin); aura-ai/src/embeddings/mod.rs, Aurabase (sütunlar ve dizin desteği, 24 Ağustos 2026'da doğrulandı).
Depolama üzerindeki etkisi: her şeyi değiştiren hesaplama
Bir yerleştirme, kayan nokta sayıları dizisi gibi depolanır. pgvector içinde, klasik vector türü her boyutu 4 baytta (float32) kodlar: 768 boyut, dolayısıyla, pgvector üstbilgisini ve Postgres sayfa ek yükünü saymadan önce bile, vektör başına yaklaşık 3 KB ham veri, 1536 boyut yaklaşık 6 KB ve 3072 boyut yaklaşık 12 KB ağırlığındadır.
Her boyutu 4 yerine 2 bayt (float16) olarak kodlayan halfvec türü pgvector burada devreye giriyor. halfvec içinde depolanan 3072 boyutlu bir vektör yaklaşık 6 KB ağırlığındadır: klasik vector içinde depolanan 1536 boyutlu bir vektörün tam ağırlığı.
Direct and unintuitive consequence: at Aurabase, going from 1536 to 3072 dimensions does not double the actual storage on disk, since the embedding_3072 column is queried via a halfveccast. The real additional cost of 3072 dimensions is therefore not primarily the disk: it is the price of the associated OpenAI model, and the output of native index support of the vectortype, detailed in the following section.
3072 boyutları neden pgvector altında dizin türünü değiştiriyor?
vector pgvector türü, 2000 boyutun ötesinde bir HNSW veya IVFFlat dizini oluşturulmasına izin vermez. Dolayısıyla 3072 boyutları bu sınırı aşıyor: vector(3072) sütunundaki hiçbir vektör arama sorgusu yaklaşık bir dizine dayanamaz, tam sıralı taramaya dayanır ve üretimdeki RAG derleminin ölçeğinde kullanılamaz.
Aurabase kodu bu durumu açıkça ele alır: embedding_3072 sütunu, her ekleme ve arama sorgusunda halfvec(3072)'ye dönüştürülür; bu, pgvector'nin 4000'e kadar boyutu dizine ekleyebileceği bir türdür. 768 ve 1536 numaralı sütunlar, sınıra yaklaşmadıklarından yerel vector yayınlanmamış olarak kalır.
// 3072 (>2000) için, HNSW "vector" tipini indekslemez → halfvec'i yayınlar
fn vec_query_parts(dims: usize) -> AuraResult<(&'static str, &'static str, &'static str)> {
match dims {
768 => Ok(("embedding_768", "", "::vector")),
1536 => Ok(("embedding_1536", "", "::vector")),
3072 => Ok(("embedding_3072", "::halfvec(3072)", "::halfvec(3072)")),
other => Err(...), // desteklenmeyen boyut
}
}
Bu ayrıntı aynı zamanda [768, 1536, 3072]'de listelenmeyen bir yerleştirme boyutunun kabul edilip daha sonra kötü şekilde dizine eklenmesi yerine neden Aurabase tarafında açıkça başarısız olduğunu da açıklar: sütun adı her zaman sabit bir izin verilenler listesinden gelir, asla istemci tarafından gönderilen ücretsiz bir değerden gelmez. Bu özel durumun ötesinde Postgres üzerinde bir HNSW dizini oluşturmaya daha derinlemesine bakmak için HNSW dizini ve Postgres vektör arama makalemize bakın.
Her şeyi kaybetmeden boyutu küçültmek: OpenAI'nin Matryoshka kısaltması
Ocak 2024 itibarıyla OpenAI'nin Embeddings API'si, farklı bir modeli yeniden çağırmadan döndürülen vektörü kısaltan bir dimensions parametresini kabul etmektedir. Tekniğe Matryoshka Temsil Öğrenimi adı verilir: Model, vektörün ilk boyutlarında yararlı bilgiyi yoğunlaştırmak üzere eğitilir, böylece bir kesme birdenbire yerine kademeli olarak hassasiyetini kaybeder.
OpenAI, duyurusunda bu tekniğin etkinliğini belirli bir örnekle gösteriyor: text-embedding-3-large, yalnızca 256 boyuta kısaltılmış, 1536 boyutta tam boyutta kullanılan eski text-embedding-ada-002'nin MTEB puanını hâlâ aşıyor (kaynak: OpenAI, resmi blog, 25 Ocak 2024). Bu spesifik kıyaslamada, tam bir vektörden daha iyi performans gösteren, 12 kat daha küçük bir vektör.
let body = json!({
"model": self.embed_model, // örneğin "metin yerleştirme-3-büyük"
"input": text,
"dimensions": self.embed_dimensions, // 3072 → yapılandırılan değeri keser
});
Önemli ve çoğu zaman yanlış anlaşılan nokta: kesinti, uygulanan fiyatı azaltmaz. Gerçek maliyet, giriş metninde gerçekleştirilen hesaplama olduğundan, OpenAI ücretleri döndürülen vektörün boyutuna değil, sorgulanan modele göre belirlenir. Bu nedenle, text-embedding-3-large'den 1536 boyut talep etmek, 3072 yerel boyutla aynı fiyata mal olur (kaynak: OpenAI, resmi blog, 25 Ocak 2024); yalnızca depolama ve arama hızı değişir.
Bu tam olarak Aurabase öğesinin varsayılan seçimidir ve config/mod.rs içinde doğrulanmıştır: varsayılan olarak yapılandırılan model text-embedding-3-large şeklindedir, ancak varsayılan olarak yapılandırılan çıktı boyutu 3072 değil 1536 şeklindedir. Bu nedenle hizmet, yerel HNSW sütununda dizin oluşturulabilir bir vector sütununda kalacak şekilde kesilen geniş modelin temsili için ödeme yapar. halfvec'nin 3072'ye dönüştürülmesi gerekiyor.
Kullanım durumunuza göre hangi boyutu seçmelisiniz
1536 boyutları, RAG veya semantik arama projelerinin çoğunluğu için makul başlangıç noktası olmaya devam ediyor: metin yerleştirme-3-küçük (%62,3) MTEB puanı büyük modelinkine yakın kalıyor, depolama hafif kalıyor ve herhangi bir özel yapılandırma olmadan HNSW içindeki klasik vector türü pgvector dizinleri.
3072 boyutları, derlem belirsiz veya teknik olduğunda, %62,3 ile %64,6 arasındaki kalite farkının genel OpenAI karşılaştırmasında değil, kendi sorgularınızda gözle görülür şekilde daha iyi arama sonuçlarına dönüştüğü durumlarda haklı çıkar. OpenAI geliştirici topluluğu tartışmalarında kaydedilen birçok ekip geri bildirimi bu yöne işaret ediyor: 3072 boyutun kazanımı duruma göre ölçülür, bu varsayılamaz.
768 boyutları, hacmin nüanstan öncelikli olduğu durumlarda özellikle uygundur: depolama veya hesaplama bütçesinin gerçek kısıtlama olduğu büyük bir korpus veya halihazırda 768 yerel boyutta olan eski bir yerleştirme modelinin kullanılması.
Yalnızca OpenAI tarafından yayınlanan genel MTEB puanı değil, kendi derleminizin temsili bir örneği üzerinde arama kalitesini ölçene kadar boyutu ayarlamayın. MTEB düzinelerce heterojen görevin ortalamasını alır; RAG derleminiz yalnızca bir tanesidir.
Bu boyut seçimi, Yerel AIsayfamızın belgelediği daha büyük bir RAG yığınının, yerleştirmelerin, HNSW dizininin, karma aramanın bir parçasıdır.
Bize en sık sorulanlar
Zaten indekslenmiş bir korpusun boyutunu her şeyi yeniden indekslemeden değiştirebilir miyiz?+
embedding_model sütun + boyuta ayrılmış sütun). 1536 boyutta indekslenen bir derlem, 3072'de yapılan bir aramada görünmez hale gelir ve bunun tersi de geçerlidir: boyutun değiştirilmesi, bütünün yeni sınıf altında yeniden indekslenmesini gerektirir.Gemini 3072 boyutun ötesine geçmenize izin veriyor mu?+
outputDimensionality) olarak sınırlıyor. 3072, tüm tedarikçilerin birleşimiyle Aurabase tarafından desteklenen üç sınıf için ortak olan tavandır.En iyi sonuçlar için her zaman 3072 boyutu mu seçmelisiniz?+
vectortürünün yerel HNSW desteğinin yayınlanması, zorunlu halfvec dönüşümü ve geniş modelin fiyatı. Bu maliyeti haklı çıkarmadan önce kazancınızın külliyatınızda doğrulanması gerekir.Üretimdeki bir RAG projesi için metin gömme-3-küçük mü yoksa metin-katıştırma-3-büyük mü?+
Doğru seçim en büyük değil, en iyi ölçülen seçimdir
768, 1536 ve 3072 boyutları tek eksende bölünmemiştir. 3072, OpenAI tarafından yayınlanan MTEB puanını kazanır, ancak pgvector'nin yerel HNSW desteğini bırakır ve sonuçta talep edilen boyut ne olursa olsun büyük modelin bedelini öder. 1536, Aurabase dahil olmak üzere en yaygın temerrüt bakiyesi olmaya devam ediyor. 768, hacmin nüanstan öncelikli olduğu durumlara hizmet eder.
OpenAI's dimensions parameter changes the question to ask: it is no longer "which model to choose", but "which truncation to accept, for what gain measured on my corpus". Before finalizing a choice in production, test the search quality on a real sample, not just on a general benchmark. Our guide RAG pipeline with pgvector details the complete setup, from ingestion to hybrid search.