新しいPublication of @aurabase/aurabase-js v0.7.5 NPM Packages & Rust Crate v0.1.2変更履歴を参照 →

ネイティブAI · 7 分読み取り

埋め込みサイズ: 768、1536、または 3072 次元?

Affane Daylami · Fondateur · 2026年4月3日

ブログに戻る

768、1536、および 3072 の寸法の間の選択は、表面上の調整ではありません。ベクトル データベースのストレージ容量、使用できるインデックスの種類、および各 API 呼び出しに支払われる料金を設定します。 OpenAI 自体は、2 つの現在のモデル間の品質ギャップを文書化しています。MTEB ベンチマークでは、1536 ネイティブ ディメンションの text-embedding-3-small が 62.3% に達しましたが、3072 ネイティブ ディメンションの text-embedding-3-large では 64.6% に達しました。本当の利益ですが、その代償はあなたが思っている以上に別のところで支払われます。

このページは自動翻訳されました。英語版が正式です。

この記事は、OpenAI によって公開された公式ドキュメント、OpenAI 開発者コミュニティのディスカッションで収集されたチームのフィードバック、およびこれらの 3 次元クラスを 3 つの異なるベクトル列にネイティブにルーティングする Aurabase コードで検証された動作に基づいています。それぞれの外形図には日付と出典が記載されています。独自の測定に適用する方法論については、ベンチマーク方法論の柱を参照してください。

必需品
  • pgvectorのネイティブ HNSW サポートから逸脱することなく、ほとんどの場合、1536 次元が最もバランスの取れた選択肢になります。ネイティブ text-embedding-3-small または truncated text-embedding-3-large です。
  • 3072 次元 (text-embedding-3-large) は、OpenAI によって公開された最高の MTEB スコア (64.6% 対 62.3%) を提供しますが、 pgvectorの vector 型の 2000 次元制限を超えています。 HNSW インデックスは halfvecへのキャストが必要です。
  • OpenAI dimensions パラメーター (Matryoshka テクニック) を使用して埋め込みを切り詰めると、ストレージが削減され、検索が高速化されますが、価格は下がりません。これは、返されたベクトルのサイズではなく、クエリされたモデルに依存します。
  • halfvec ストレージ (1 次元あたり 2 バイト) のおかげで、3072 次元ベクトルは、古典的な vector の 1536 ベクトル (1 次元あたり 4 バイト) と同じ生のディスク領域 (約 6 KB) を Aurabase で占有します。
  • Aurabase は、正確に 3 つのディメンション クラス、768、1536、および 3072 をネイティブでサポートしており、それぞれが独自の列 ( aura-ai/src/embeddings/mod.rsで確認) にあります。空きディメンション フィールドはありません。
#
概要

768、1536、または 3072: 各レベルで実際に変わること

明らかに、text-embedding-3-small と text-embedding-3-large のどちらを選択するかということは、切り捨てについて話す前に、まず 1536 ~ 3072 のネイティブ サイズを選択することになります。以下の表は、pgvector がインデックス作成側でネイティブに認識する 3 つのレベルと Aurabase ルートに関する検証可能な事実をまとめたものです。

基準768次元1536次元3072次元
関連モデルOpenAI 切り捨て、またはレガシー/オープンソース (ネイティブ) モデルtext-embedding-3-small (ネイティブ) または truncated 3-largetext-embedding-3-large (ネイティブ)
平均MTEBスコアこのサイズでは OpenAI によってネイティブにリリースされていません62,3 %64,6 %
OpenAI の参考価格 / 100 万トークンサイズではなく、クエリされたモデルに依存します$0.02 (小) または $0.13 (切り捨てられた大)$0.13 (テキスト埋め込み-3-大)
総保管重量 / ベクトル3 KB (float32)6 KB (float32)12 KB (ベクター) または 6 KB (ハーフベック、 Aurabase)
ネイティブ HNSW pgvector インデックスはいはいいいえ: キャスト Halfvec が必要です (>2000 ディメンション)
Aurabase 列 (検証済みコード)埋め込み_768埋め込み_1536埋め込み_3072

出典: OpenAI、公式ブログ「新しい埋め込みモデルと API アップデート」、2024 年 1 月 25 日 (MTEB スコアと発売価格、使用前に現在の価格ページを確認してください)。 aura-ai/src/embeddings/mod.rs、 Aurabase (列とインデックスのサポート、2026 年 8 月 24 日に検証済み)。

#
ストレージ

ストレージへの影響: すべてを変える計算

埋め込みは浮動小数点数の配列のように格納されます。 pgvectorでは、古典的な vector 型は各次元を 4 バイト (float32) でエンコードします。したがって、 pgvector ヘッダーと Postgres ページ オーバーヘッドをカウントする前であっても、768 次元はベクトルあたり約 3 KB の生データ、1536 次元は約 6 KB、3072 次元は約 12 KB になります。

ここで、pgvector の halfvec タイプが登場します。これは、各次元を 4 バイトではなく 2 バイト (float16) でエンコードします。 halfvec に格納される 3072 次元のベクトルの重さは約 6 KB です。これは、従来の vectorに格納される 1536 次元のベクトルの重さとまったく同じです。

3KB
768太陽
ベクトル、float32 (4 バイト/次元)
6KB
1536 日
ベクトル、float32:halfvec の 3072 と同じ重み
12KB
3072 太陽
古典的なベクトル、float32 (ハーフベックをキャストする前)

直接的かつ直感的ではない結果: Aurabaseでは、 embedding_3072 列が halfvecキャストを介してクエリされるため、 Aurabaseの次元が 1536 から 3072 に変わっても、ディスク上の実際のストレージは 2 倍になりません。したがって、3072 次元の実際の追加コストは主にディスクではなく、関連する OpenAI モデルの価格と、次のセクションで詳しく説明する vectorタイプのネイティブ インデックス サポートの出力です。

#
pgvector / HNSW

pgvector で 3072 次元のインデックス タイプが変更される理由

pgvector の vector タイプでは、2000 次元を超える HNSW インデックスまたは IVFFlat インデックスを構築できません。したがって、3072 次元はこの制限を超えます。vector(3072) 列のベクトル検索クエリは近似インデックスに依存できず、完全な順次スキャンに頼るため、本番環境の RAG コーパスの規模では使用できません。

Aurabase コードは、このケースを明示的に処理します。embedding_3072 列は、各挿入および検索クエリで halfvec(3072) にキャストされます。この型は、pgvector が最大 4000 次元のインデックスを作成できます。列 768 と 1536 は、制限に近づいていないため、キャストされていないネイティブ vectorのままです。

embeddings/mod.rs (エクストライトの簡素化)rust
// 3072 (>2000) の場合、HNSW は型 `vector` のインデックスを作成せず、halfvec をキャストします
fn vec_query_parts(dims: usize) -> AuraResult<(&'static str, &'static str, &'static str)> {
    match dims {
        768  => Ok(("embedding_768",  "", "::vector")),
        1536 => Ok(("embedding_1536", "", "::vector")),
        3072 => Ok(("embedding_3072", "::halfvec(3072)", "::halfvec(3072)")),
        other => Err(...), // サポートされていない次元
    }
}

この詳細は、[768, 1536, 3072] にリストされていない埋め込みディメンションが、受け入れられて不適切にインデックス付けされるのではなく、Aurabase 側で明示的に失敗する理由も説明しています。列名は常に固定のホワイトリストから取得され、クライアントから送信された自由な値から取得されることはありません。この特定のケースを超えて Postgres での HNSW インデックスの構築について詳しくは、記事 HNSW インデックスおよび Postgres ベクトル検索を参照してください。

#
APIコスト

すべてを失わずに次元を削減: OpenAI のマトリョーシカの切り捨て

2024 年 1 月の時点で、OpenAI の Embedding API は、別のモデルを再度呼び出すことなく、返されるベクトルを短縮する dimensions パラメーターを受け入れます。この手法はマトリョーシカ表現学習と呼ばれます。モデルはベクトルの最初の次元に有用な情報を集中させるようにトレーニングされるため、切り捨ての精度は突然ではなく徐々に失われます。

OpenAI は、発表の中で特定の例を使ってこの手法の有効性を説明しています。text-embedding-3-large は、わずか 256 次元に切り詰められていますが、フル サイズの 1536 次元で使用されている古い text-embedding-ada-002 の MTEB スコアを依然として上回っています (出典: OpenAI、公式ブログ、2024 年 1 月 25 日)。この特定のベンチマークでは、12 倍小さいベクトルで、完全なベクトルよりも優れたパフォーマンスが得られます。

llm/openai.rs (エクストライト、埋め込み要求)rust
let body = json!({
    "model": self.embed_model,       // 例: "text-embedding-3-large"
    "input": text,
    "dimensions": self.embed_dimensions, // 3072 → 設定値を切り捨てる
});

重要な点であり、よく誤解されますが、切り捨てによって請求される価格は減額されません。 OpenAI は、実際のコストは入力テキストに対して実行される計算であるため、返されたベクトルのサイズではなく、クエリされたモデルに基づいて料金を請求します。したがって、text-embedding-3-large から 1536 ディメンションをリクエストすると、その 3072 ネイティブ ディメンションと同じ料金がかかります (出典: OpenAI、公式ブログ、2024 年 1 月 25 日)。ストレージと検索速度のみが変わります。

これは、 config/mod.rsで検証された Aurabaseのデフォルトの選択です。デフォルトで構成されたモデルは text-embedding-3-largeですが、デフォルトで構成された出力次元は 1536であり、 3072 ではありません。 したがって、このサービスは、 halfvec を使用せず、ネイティブ HNSWのインデックス可能な vector 列に残るように切り捨てられたワイド モデルの表現に対して支払いを行います。 3072までのキャストが必要です。

#
決定

ユースケースに応じてどのディメンションを選択するか

1536 次元は、RAG またはセマンティック検索プロジェクトの大部分にとって依然として合理的な開始点です。text-embedding-3-small の MTEB スコア (62.3%) は依然として大規模モデルのスコアに近く、ストレージは依然として軽量であり、古典的な vector タイプの pgvector インデックスは、特別な構成を必要とせずに HNSW で作成されます。

コーパスがあいまいまたは技術的である場合、3072 ディメンションは正当化されます。この場合、62.3% と 64.6% の間の品質ギャップが、一般的な OpenAI ベンチマークではなく、独自のクエリで目に見えてより優れた検索結果に変換されます。 OpenAI 開発者コミュニティのディスカッションに記録されたチームのフィードバックのいくつかは、この方向性を示しています。3072 次元のゲインはケースバイケースで測定されるものであり、想定することはできません。

768 次元は、ストレージや計算の予算が実際の制約となる大規模なコーパス、またはすでに 768 ネイティブ次元にあるレガシー埋め込みモデルの使用など、ニュアンスよりもボリュームが優先される場合に特に適しています。

決める前の簡単なルール

OpenAI によって公開された一般的な MTEB スコアだけでなく、独自のコーパスの代表的なサンプルで検索品質を測定するまでは、ディメンションを設定しないでください。 MTEB は、数十の異種タスクを平均化します。 RAG コーパスは 1 つだけです。

このディメンションの選択は、より大きな RAG スタック、埋め込み、HNSW インデックス、ハイブリッド検索の一部であり、ネイティブ AIページで説明しています。

#
よくある質問

最もよく聞かれること

すべてのインデックスを再作成せずに、すでにインデックスが作成されているコーパスのサイズを変更できますか?+
いいえ。Aurabase は、正確なモデルとディメンション (embedding_model 列 + ディメンション専用の列) によって各セマンティック検索をフィルター処理します。 1536 次元でインデックス付けされたコーパスは、3072 で実行される検索では見えなくなります。逆も同様です。次元を変更するには、新しいクラスでコーパスのインデックスを再作成する必要があります。
ジェミニでは3072次元を超えることができますか?+
いいえ。 Aurabaseの Gemini クライアントは、次元の上限を 3072 (outputDimensionality) に明示的に設定しています。 3072 は、すべてのサプライヤーを合わせた Aurabaseによってサポートされる 3 つのクラスに共通の上限です。
最良の結果を得るには、常に 3072 ディメンションを選択する必要がありますか?+
必ずしもそうとは限りません。 1536 と 3072 の間の MTEB スコアの差 (OpenAI によると 62.3% 対 64.6%) は、3072 によって暗示されるアーキテクチャの変更 (vectorタイプのネイティブ HNSW サポートのリリース、必須の halfvec キャスト、およびワイド モデルの価格) にもかかわらず、わずかなままです。このコストを正当化する前に、ゲインをコーパス上で検証する必要があります。
本番環境の RAG プロジェクトでは text-embedding-3-small または text-embedding-3-large を選択しますか?+
それは予算とコーパスの性質によって異なり、普遍的な規則ではありません。 Text-embedding-3-small (1536 ネイティブ サイズ) は、ほとんどのケースを低コストでカバーします。 text-embedding-3-large は、一般的な MTEB スコアだけでなく、独自のテスト クエリで精度の向上が具体的に測定されるあいまいなコーパスに基づいて正当化されます。
#
要約すると

正しい選択は最大のものではなく、測定された最良のものである

768、1536、および 3072 次元は単一の軸上で分割されません。 3072 は、OpenAI によって公開された MTEB スコアで向上しましたが、 pgvectorのネイティブ HNSW サポートを残し、最終的に要求されたディメンションが何であれ、大規模モデルの価格を支払うことになります。 Aurabaseを含め、1536 が依然として最も一般的なデフォルト残高です。 768 は、ニュアンスよりも音量が優先される場合に役立ちます。

OpenAI's dimensions parameter changes the question to ask: it is no longer "which model to choose", but "which truncation to accept, for what gain measured on my corpus". Before finalizing a choice in production, test the search quality on a real sample, not just on a general benchmark. Our guide RAG pipeline with pgvector details the complete setup, from ingestion to hybrid search.

導入の準備はできていますか?

5 分でバックエンドが完成します。

クレジット カードは不要 · 500 MB 無料 · 50,000 MAU