AIゲートウェイ
Rustの主権ヨーロッパ AI ゲートウェイ: OpenAI、Anthropic、Gemini、サブ 10ms pgvector 検索、一時的な機能チケット、および NL2SQL。
1 つのエンドポイント、N つのプロバイダー#
Aurabase AI ゲートウェイは、主要な LLM プロバイダー向けの統合された HTTP および SDK サーフェスです。同じコードが OpenAI、Anthropic、Google Gemini に対して実行されます。provider を変更するか、プロジェクトのデフォルトに依存するだけです。
ゲートウェイには、次の 4 つのネイティブの柱が組み込まれています。
- 自動フォールバック: プライマリ プロバイダーでアップストリームの停止またはタイムアウト (5xx/408) が発生した場合、セカンダリ プロバイダーに自動的にフォールバックします。
- 一時セッション: 制限されたトークン予算で有効期限の短い機能チケット (300 秒 TTL) を発行し、クライアント フロントエンドでの API キーの公開を排除します。
- マルチディメンション pgvector: 5ms 未満の HNSW 類似性検索を備えた専用のディメンション列ルーティング (
embedding_768、embedding_1536、embedding_3072)。 - AST-検証済み NL2SQL: 突然変異を禁止し、行制限を強制する抽象構文ツリー パーサーによって検証された PostgreSQL クエリを合成します。
サポートされている LLM と埋め込みモデル#
| プロバイダー | チャットと完了モデル | サポートされている埋め込み |
|---|---|---|
| 人間性 | claude-3-5-sonnet、 claude-3-5-haiku、 claude-3-opus | — |
| OpenAI | gpt-4o、 gpt-4o-mini、 o1、 o3-mini | text-embedding-3-small (1536)、text-embedding-3-large (3072) |
| Google Gemini | gemini-1.5-pro、 gemini-1.5-flash、 gemini-2.0-flash | text-embedding-004 (768) |
| カスタム / オラマ | 任意の OpenAI 互換エンドポイント | カスタムの OpenAI 互換埋め込み |
一時的なセッション (秘密漏洩ゼロ)#
フロントエンドのシングルページ アプリケーションとモバイル アプリには、オープンエンド LLM エンドポイントのバックエンド API キー (aura_anon_... または aura_sk_...) を決して埋め込まないでください。 Aurabase は、一時的な機能セッションを使用してこれを解決します。
// バックエンド、Next.js サーバー コンポーネント、またはエッジ関数で:
const session = await aura.ai.session()
// セッション インスタンスは、 JWT HMACで署名された 300 秒の機能チケットを保持します。
const { content, budget_remaining } = await session.chat([
{ role: 'user', content: 'Summarize my dashboard statistics.' }
])
console.log('Tokens remaining in session:', budget_remaining)
チケットは、プロジェクトの残りの月次トークン割り当てによって制限されます。割り当てられたセッション バジェットがなくなると、ゲートウェイは HTTP 429 Too Many Requests (code: "session_budget_exceeded") でリクエストを拒否し、クライアント側のウォレット拒否攻撃から組織を守ります。
チャット、ストリーミング、pgvector、RAG#
for await (const chunk of aura.ai.chatStream([
{ role: 'user', content: 'Draft a Data Processing Agreement clause under GDPR.' }
], { provider: 'anthropic', model: 'claude-3-5-sonnet', temperature: 0.1 })) {
process.stdout.write(chunk.delta)
}
監査ログとクォータ#
すべての AI 呼び出しは、プロンプト/完了トークン、推論トークン (Gemini の考えを含む)、プロバイダー、上流モデル、期間、ステータスとともに記録されます。
リアルタイムログAPI
GET /v1/ai/{project_id}/logs経由で監査ログを検査します。
curl "https://<slug>.aurabase.dev/v1/ai/$PROJECT_ID/logs?limit=10" \
-H "apikey: $AURABASE_SERVICE_ROLE_KEY"
レート制限はプロジェクトごとのトークン バケットに適用されます (デフォルトではバースト 5 で 10 要求/分)。月間プランの制限は、 ai.requests、 ai.input_tokens、および ai.output_tokensに適用されます。月間プランの制限を超えると、 HTTP 403 Forbidden (QUOTA_EXCEEDED) が返されます。