Przejdź do treści
Logo Aurabase
aurabaza

Brama AI

Suwerenna europejska bramka AI w Rust: OpenAI, Anthropic, Gemini, wyszukiwanie poniżej 10 ms pgvector, tymczasowe bilety możliwości i NL2SQL.

Objaśnienie8 min przeczytanePoziom mediatorZmieniono 31 paź 2026

Ta strona została przetłumaczona automatycznie. Wersja angielska jest miarodajna.

Jeden punkt końcowy, N dostawców#

Brama AI Aurabase to ujednolicona powierzchnia HTTP i SDK dla głównych dostawców LLM. Ten sam kod działa przeciwko OpenAI, Anthropic i Google Gemini — zmieniasz tylko provider lub polegasz na domyślnych ustawieniach projektu.

Brama składa się z czterech rodzimych filarów:

  1. Automatyczny powrót do sieci zastępczej: Automatycznie powraca do dostawcy dodatkowego, gdy u dostawcy głównego wystąpią awarie lub przekroczenia limitu czasu (5xx/408).
  2. Sesje efemeryczne: wystawia bilety krótkotrwałe (300 s TTL) z ograniczonymi budżetami tokenów, eliminując ekspozycję klucza API w interfejsach klienta.
  3. Wielowymiarowy pgvector: Dedykowane routing kolumn wymiarowych (embedding_768, embedding_1536, embedding_3072) z wyszukiwaniem podobieństwa poniżej 5 ms HNSW.
  4. AST-Zweryfikowano NL2SQL: Syntetyzuje zapytania PostgreSQL sprawdzone przez parser abstrakcyjnego drzewa składni, który zabrania mutacji i wymusza limity wierszy.

Obsługiwane modele LLM i osadzania#

DostawcaModele czatu i uzupełnianiaObsługiwane osadzania
Antropicznyclaude-3-5-sonnet, claude-3-5-haiku, claude-3-opus—
OpenAIgpt-4o, gpt-4o-mini, o1, o3-minitext-embedding-3-small (1536), text-embedding-3-large (3072)
Google Bliźniętagemini-1.5-pro, gemini-1.5-flash, gemini-2.0-flashtext-embedding-004 (768)
Niestandardowe / OllamaDowolny punkt końcowy zgodny z OpenAINiestandardowe osadzanie kompatybilne z OpenAI

Sesje efemeryczne (zero tajemnicy)#

Aplikacje jednostronicowe frontonu i aplikacje mobilne nigdy nie powinny osadzać kluczy API backendu (aura_anon_... lub aura_sk_...) dla otwartych punktów końcowych LLM. Aurabase rozwiązuje ten problem za pomocą sesji o możliwościach efemerycznych:

functions/mint-session.tstypescript
// W swoim backendzie, komponencie serwera Next.js lub funkcji Edge:
const session = await aura.ai.session()

// Instancja sesji zawiera bilet możliwości 300s podpisany za pomocą JWT HMAC:
const { content, budget_remaining } = await session.chat([
  { role: 'user', content: 'Summarize my dashboard statistics.' }
])
console.log('Tokens remaining in session:', budget_remaining)
Wskazówka

Bilet jest ograniczony pozostałym miesięcznym limitem tokenów projektu. Kiedy przydzielony budżet sesji zostanie wyczerpany, brama odrzuca żądania za pomocą HTTP 429 Too Many Requests (code: "session_budget_exceeded"), chroniąc organizację przed atakami typu „odmowa portfela” po stronie klienta.

Czat, przesyłanie strumieniowe, pgvector i RAG#

chat-stream.tstypescript
for await (const chunk of aura.ai.chatStream([
  { role: 'user', content: 'Draft a Data Processing Agreement clause under GDPR.' }
], { provider: 'anthropic', model: 'claude-3-5-sonnet', temperature: 0.1 })) {
  process.stdout.write(chunk.delta)
}

Dzienniki audytu i przydziały#

Każde wywołanie sztucznej inteligencji jest rejestrowane z tokenami podpowiedzi/ukończenia, tokenami rozumowania (w tym myślami Gemini), dostawcą, modelem wyższego szczebla, czasem trwania i statusem.

API dzienników w czasie rzeczywistym

Sprawdź dzienniki audytu za pomocą GET /v1/ai/{project_id}/logs:

curlbash
curl "https://<slug>.aurabase.dev/v1/ai/$PROJECT_ID/logs?limit=10" \
  -H "apikey: $AURABASE_SERVICE_ROLE_KEY"
Informacje

Limity szybkości są egzekwowane w odniesieniu do zasobnika tokenów dla każdego projektu (10 żądań/min z domyślnie serią 5). Miesięczne limity planu mają zastosowanie do ai.requests, ai.input_tokens i ai.output_tokens. Przekroczenie miesięcznych limitów planu zwraca HTTP 403 Forbidden (QUOTA_EXCEEDED).

Aby pójść dalej#