Brama AI
Suwerenna europejska bramka AI w Rust: OpenAI, Anthropic, Gemini, wyszukiwanie poniżej 10 ms pgvector, tymczasowe bilety możliwości i NL2SQL.
Jeden punkt końcowy, N dostawców#
Brama AI Aurabase to ujednolicona powierzchnia HTTP i SDK dla głównych dostawców LLM. Ten sam kod działa przeciwko OpenAI, Anthropic i Google Gemini — zmieniasz tylko provider lub polegasz na domyślnych ustawieniach projektu.
Brama składa się z czterech rodzimych filarów:
- Automatyczny powrót do sieci zastępczej: Automatycznie powraca do dostawcy dodatkowego, gdy u dostawcy głównego wystąpią awarie lub przekroczenia limitu czasu (5xx/408).
- Sesje efemeryczne: wystawia bilety krótkotrwałe (300 s TTL) z ograniczonymi budżetami tokenów, eliminując ekspozycję klucza API w interfejsach klienta.
- Wielowymiarowy pgvector: Dedykowane routing kolumn wymiarowych (
embedding_768,embedding_1536,embedding_3072) z wyszukiwaniem podobieństwa poniżej 5 ms HNSW. - AST-Zweryfikowano NL2SQL: Syntetyzuje zapytania PostgreSQL sprawdzone przez parser abstrakcyjnego drzewa składni, który zabrania mutacji i wymusza limity wierszy.
Obsługiwane modele LLM i osadzania#
| Dostawca | Modele czatu i uzupełniania | Obsługiwane osadzania |
|---|---|---|
| Antropiczny | claude-3-5-sonnet, claude-3-5-haiku, claude-3-opus | — |
| OpenAI | gpt-4o, gpt-4o-mini, o1, o3-mini | text-embedding-3-small (1536), text-embedding-3-large (3072) |
| Google Bliźnięta | gemini-1.5-pro, gemini-1.5-flash, gemini-2.0-flash | text-embedding-004 (768) |
| Niestandardowe / Ollama | Dowolny punkt końcowy zgodny z OpenAI | Niestandardowe osadzanie kompatybilne z OpenAI |
Sesje efemeryczne (zero tajemnicy)#
Aplikacje jednostronicowe frontonu i aplikacje mobilne nigdy nie powinny osadzać kluczy API backendu (aura_anon_... lub aura_sk_...) dla otwartych punktów końcowych LLM. Aurabase rozwiązuje ten problem za pomocą sesji o możliwościach efemerycznych:
// W swoim backendzie, komponencie serwera Next.js lub funkcji Edge:
const session = await aura.ai.session()
// Instancja sesji zawiera bilet możliwości 300s podpisany za pomocą JWT HMAC:
const { content, budget_remaining } = await session.chat([
{ role: 'user', content: 'Summarize my dashboard statistics.' }
])
console.log('Tokens remaining in session:', budget_remaining)
Bilet jest ograniczony pozostałym miesięcznym limitem tokenów projektu. Kiedy przydzielony budżet sesji zostanie wyczerpany, brama odrzuca żądania za pomocą HTTP 429 Too Many Requests (code: "session_budget_exceeded"), chroniąc organizację przed atakami typu „odmowa portfela” po stronie klienta.
Czat, przesyłanie strumieniowe, pgvector i RAG#
for await (const chunk of aura.ai.chatStream([
{ role: 'user', content: 'Draft a Data Processing Agreement clause under GDPR.' }
], { provider: 'anthropic', model: 'claude-3-5-sonnet', temperature: 0.1 })) {
process.stdout.write(chunk.delta)
}
Dzienniki audytu i przydziały#
Każde wywołanie sztucznej inteligencji jest rejestrowane z tokenami podpowiedzi/ukończenia, tokenami rozumowania (w tym myślami Gemini), dostawcą, modelem wyższego szczebla, czasem trwania i statusem.
API dzienników w czasie rzeczywistym
Sprawdź dzienniki audytu za pomocą GET /v1/ai/{project_id}/logs:
curl "https://<slug>.aurabase.dev/v1/ai/$PROJECT_ID/logs?limit=10" \
-H "apikey: $AURABASE_SERVICE_ROLE_KEY"
Limity szybkości są egzekwowane w odniesieniu do zasobnika tokenów dla każdego projektu (10 żądań/min z domyślnie serią 5). Miesięczne limity planu mają zastosowanie do ai.requests, ai.input_tokens i ai.output_tokens. Przekroczenie miesięcznych limitów planu zwraca HTTP 403 Forbidden (QUOTA_EXCEEDED).