この記事は、OpenAI によって公開された公式ドキュメント、OpenAI 開発者コミュニティのディスカッションで収集されたチームのフィードバック、およびこれらの 3 次元クラスを 3 つの異なるベクトル列にネイティブにルーティングする Aurabase コードで検証された動作に基づいています。それぞれの外形図には日付と出典が記載されています。独自の測定に適用する方法論については、ベンチマーク方法論の柱を参照してください。
- pgvectorのネイティブ HNSW サポートから逸脱することなく、ほとんどの場合、1536 次元が最もバランスの取れた選択肢になります。ネイティブ text-embedding-3-small または truncated text-embedding-3-large です。
- 3072 次元 (text-embedding-3-large) は、OpenAI によって公開された最高の MTEB スコア (64.6% 対 62.3%) を提供しますが、 pgvectorの
vector型の 2000 次元制限を超えています。 HNSW インデックスはhalfvecへのキャストが必要です。 - OpenAI
dimensionsパラメーター (Matryoshka テクニック) を使用して埋め込みを切り詰めると、ストレージが削減され、検索が高速化されますが、価格は下がりません。これは、返されたベクトルのサイズではなく、クエリされたモデルに依存します。 halfvecストレージ (1 次元あたり 2 バイト) のおかげで、3072 次元ベクトルは、古典的なvectorの 1536 ベクトル (1 次元あたり 4 バイト) と同じ生のディスク領域 (約 6 KB) を Aurabase で占有します。- Aurabase は、正確に 3 つのディメンション クラス、768、1536、および 3072 をネイティブでサポートしており、それぞれが独自の列 (
aura-ai/src/embeddings/mod.rsで確認) にあります。空きディメンション フィールドはありません。
768、1536、または 3072: 各レベルで実際に変わること
明らかに、text-embedding-3-small と text-embedding-3-large のどちらを選択するかということは、切り捨てについて話す前に、まず 1536 ~ 3072 のネイティブ サイズを選択することになります。以下の表は、pgvector がインデックス作成側でネイティブに認識する 3 つのレベルと Aurabase ルートに関する検証可能な事実をまとめたものです。
| 基準 | 768次元 | 1536次元 | 3072次元 |
|---|---|---|---|
| 関連モデル | OpenAI 切り捨て、またはレガシー/オープンソース (ネイティブ) モデル | text-embedding-3-small (ネイティブ) または truncated 3-large | text-embedding-3-large (ネイティブ) |
| 平均MTEBスコア | このサイズでは OpenAI によってネイティブにリリースされていません | 62,3 % | 64,6 % |
| OpenAI の参考価格 / 100 万トークン | サイズではなく、クエリされたモデルに依存します | $0.02 (小) または $0.13 (切り捨てられた大) | $0.13 (テキスト埋め込み-3-大) |
| 総保管重量 / ベクトル | 3 KB (float32) | 6 KB (float32) | 12 KB (ベクター) または 6 KB (ハーフベック、 Aurabase) |
| ネイティブ HNSW pgvector インデックス | はい | はい | いいえ: キャスト Halfvec が必要です (>2000 ディメンション) |
| Aurabase 列 (検証済みコード) | 埋め込み_768 | 埋め込み_1536 | 埋め込み_3072 |
出典: OpenAI、公式ブログ「新しい埋め込みモデルと API アップデート」、2024 年 1 月 25 日 (MTEB スコアと発売価格、使用前に現在の価格ページを確認してください)。 aura-ai/src/embeddings/mod.rs、 Aurabase (列とインデックスのサポート、2026 年 8 月 24 日に検証済み)。
ストレージへの影響: すべてを変える計算
埋め込みは浮動小数点数の配列のように格納されます。 pgvectorでは、古典的な vector 型は各次元を 4 バイト (float32) でエンコードします。したがって、 pgvector ヘッダーと Postgres ページ オーバーヘッドをカウントする前であっても、768 次元はベクトルあたり約 3 KB の生データ、1536 次元は約 6 KB、3072 次元は約 12 KB になります。
ここで、pgvector の halfvec タイプが登場します。これは、各次元を 4 バイトではなく 2 バイト (float16) でエンコードします。 halfvec に格納される 3072 次元のベクトルの重さは約 6 KB です。これは、従来の vectorに格納される 1536 次元のベクトルの重さとまったく同じです。
直接的かつ直感的ではない結果: Aurabaseでは、 embedding_3072 列が halfvecキャストを介してクエリされるため、 Aurabaseの次元が 1536 から 3072 に変わっても、ディスク上の実際のストレージは 2 倍になりません。したがって、3072 次元の実際の追加コストは主にディスクではなく、関連する OpenAI モデルの価格と、次のセクションで詳しく説明する vectorタイプのネイティブ インデックス サポートの出力です。
pgvector で 3072 次元のインデックス タイプが変更される理由
pgvector の vector タイプでは、2000 次元を超える HNSW インデックスまたは IVFFlat インデックスを構築できません。したがって、3072 次元はこの制限を超えます。vector(3072) 列のベクトル検索クエリは近似インデックスに依存できず、完全な順次スキャンに頼るため、本番環境の RAG コーパスの規模では使用できません。
Aurabase コードは、このケースを明示的に処理します。embedding_3072 列は、各挿入および検索クエリで halfvec(3072) にキャストされます。この型は、pgvector が最大 4000 次元のインデックスを作成できます。列 768 と 1536 は、制限に近づいていないため、キャストされていないネイティブ vectorのままです。
// 3072 (>2000) の場合、HNSW は型 `vector` のインデックスを作成せず、halfvec をキャストします
fn vec_query_parts(dims: usize) -> AuraResult<(&'static str, &'static str, &'static str)> {
match dims {
768 => Ok(("embedding_768", "", "::vector")),
1536 => Ok(("embedding_1536", "", "::vector")),
3072 => Ok(("embedding_3072", "::halfvec(3072)", "::halfvec(3072)")),
other => Err(...), // サポートされていない次元
}
}
この詳細は、[768, 1536, 3072] にリストされていない埋め込みディメンションが、受け入れられて不適切にインデックス付けされるのではなく、Aurabase 側で明示的に失敗する理由も説明しています。列名は常に固定のホワイトリストから取得され、クライアントから送信された自由な値から取得されることはありません。この特定のケースを超えて Postgres での HNSW インデックスの構築について詳しくは、記事 HNSW インデックスおよび Postgres ベクトル検索を参照してください。
すべてを失わずに次元を削減: OpenAI のマトリョーシカの切り捨て
2024 年 1 月の時点で、OpenAI の Embedding API は、別のモデルを再度呼び出すことなく、返されるベクトルを短縮する dimensions パラメーターを受け入れます。この手法はマトリョーシカ表現学習と呼ばれます。モデルはベクトルの最初の次元に有用な情報を集中させるようにトレーニングされるため、切り捨ての精度は突然ではなく徐々に失われます。
OpenAI は、発表の中で特定の例を使ってこの手法の有効性を説明しています。text-embedding-3-large は、わずか 256 次元に切り詰められていますが、フル サイズの 1536 次元で使用されている古い text-embedding-ada-002 の MTEB スコアを依然として上回っています (出典: OpenAI、公式ブログ、2024 年 1 月 25 日)。この特定のベンチマークでは、12 倍小さいベクトルで、完全なベクトルよりも優れたパフォーマンスが得られます。
let body = json!({
"model": self.embed_model, // 例: "text-embedding-3-large"
"input": text,
"dimensions": self.embed_dimensions, // 3072 → 設定値を切り捨てる
});
重要な点であり、よく誤解されますが、切り捨てによって請求される価格は減額されません。 OpenAI は、実際のコストは入力テキストに対して実行される計算であるため、返されたベクトルのサイズではなく、クエリされたモデルに基づいて料金を請求します。したがって、text-embedding-3-large から 1536 ディメンションをリクエストすると、その 3072 ネイティブ ディメンションと同じ料金がかかります (出典: OpenAI、公式ブログ、2024 年 1 月 25 日)。ストレージと検索速度のみが変わります。
これは、 config/mod.rsで検証された Aurabaseのデフォルトの選択です。デフォルトで構成されたモデルは text-embedding-3-largeですが、デフォルトで構成された出力次元は 1536であり、 3072 ではありません。 したがって、このサービスは、 halfvec を使用せず、ネイティブ HNSWのインデックス可能な vector 列に残るように切り捨てられたワイド モデルの表現に対して支払いを行います。 3072までのキャストが必要です。
ユースケースに応じてどのディメンションを選択するか
1536 次元は、RAG またはセマンティック検索プロジェクトの大部分にとって依然として合理的な開始点です。text-embedding-3-small の MTEB スコア (62.3%) は依然として大規模モデルのスコアに近く、ストレージは依然として軽量であり、古典的な vector タイプの pgvector インデックスは、特別な構成を必要とせずに HNSW で作成されます。
コーパスがあいまいまたは技術的である場合、3072 ディメンションは正当化されます。この場合、62.3% と 64.6% の間の品質ギャップが、一般的な OpenAI ベンチマークではなく、独自のクエリで目に見えてより優れた検索結果に変換されます。 OpenAI 開発者コミュニティのディスカッションに記録されたチームのフィードバックのいくつかは、この方向性を示しています。3072 次元のゲインはケースバイケースで測定されるものであり、想定することはできません。
768 次元は、ストレージや計算の予算が実際の制約となる大規模なコーパス、またはすでに 768 ネイティブ次元にあるレガシー埋め込みモデルの使用など、ニュアンスよりもボリュームが優先される場合に特に適しています。
OpenAI によって公開された一般的な MTEB スコアだけでなく、独自のコーパスの代表的なサンプルで検索品質を測定するまでは、ディメンションを設定しないでください。 MTEB は、数十の異種タスクを平均化します。 RAG コーパスは 1 つだけです。
このディメンションの選択は、より大きな RAG スタック、埋め込み、HNSW インデックス、ハイブリッド検索の一部であり、ネイティブ AIページで説明しています。
最もよく聞かれること
すべてのインデックスを再作成せずに、すでにインデックスが作成されているコーパスのサイズを変更できますか?+
embedding_model 列 + ディメンション専用の列) によって各セマンティック検索をフィルター処理します。 1536 次元でインデックス付けされたコーパスは、3072 で実行される検索では見えなくなります。逆も同様です。次元を変更するには、新しいクラスでコーパスのインデックスを再作成する必要があります。ジェミニでは3072次元を超えることができますか?+
outputDimensionality) に明示的に設定しています。 3072 は、すべてのサプライヤーを合わせた Aurabaseによってサポートされる 3 つのクラスに共通の上限です。最良の結果を得るには、常に 3072 ディメンションを選択する必要がありますか?+
vectorタイプのネイティブ HNSW サポートのリリース、必須の halfvec キャスト、およびワイド モデルの価格) にもかかわらず、わずかなままです。このコストを正当化する前に、ゲインをコーパス上で検証する必要があります。本番環境の RAG プロジェクトでは text-embedding-3-small または text-embedding-3-large を選択しますか?+
正しい選択は最大のものではなく、測定された最良のものである
768、1536、および 3072 次元は単一の軸上で分割されません。 3072 は、OpenAI によって公開された MTEB スコアで向上しましたが、 pgvectorのネイティブ HNSW サポートを残し、最終的に要求されたディメンションが何であれ、大規模モデルの価格を支払うことになります。 Aurabaseを含め、1536 が依然として最も一般的なデフォルト残高です。 768 は、ニュアンスよりも音量が優先される場合に役立ちます。
OpenAI's dimensions parameter changes the question to ask: it is no longer "which model to choose", but "which truncation to accept, for what gain measured on my corpus". Before finalizing a choice in production, test the search quality on a real sample, not just on a general benchmark. Our guide RAG pipeline with pgvector details the complete setup, from ingestion to hybrid search.