Portale AI
Gateway AI sovrano europeo in Rust: OpenAI, Anthropic, Gemini, ricerca sub-10ms pgvector, ticket di capacità effimera e NL2SQL.
Un endpoint, N provider#
Aurabase AI Gateway è una superficie HTTP e SDK unificata per i principali provider LLM. Lo stesso codice viene eseguito su OpenAI, Anthropic e Google Gemini: modifichi solo provider o fai affidamento sull'impostazione predefinita del progetto.
Il gateway incorpora quattro pilastri nativi:
- Fallback automatizzato: ritorna automaticamente a un provider secondario quando il primario subisce interruzioni o timeout dell'upstream (5xx/408).
- Sessioni temporanee: emette ticket di funzionalità di breve durata (300 TTL) con budget token limitati, eliminando l'esposizione della chiave API nei frontend del client.
- Multidimensionale pgvector: routing di colonne dimensionali dedicato (
embedding_768,embedding_1536,embedding_3072) con ricerca di similarità sub-5ms HNSW. - AST-Verified NL2SQL: sintetizza le query PostgreSQL convalidate da un parser di albero sintattico astratto che vieta le mutazioni e impone limiti di riga.
LLM supportato e modelli di incorporamento#
| Fornitore | Modelli di chat e completamento | Incorporamenti supportati |
|---|---|---|
| Antropico | claude-3-5-sonnet, claude-3-5-haiku, claude-3-opus | — |
| OpenAI | gpt-4o, gpt-4o-mini, o1, o3-mini | text-embedding-3-small (1536), text-embedding-3-large (3072) |
| Google Gemelli | gemini-1.5-pro, gemini-1.5-flash, gemini-2.0-flash | text-embedding-004 (768) |
| Personalizzato / Ollama | Qualsiasi endpoint compatibile con OpenAI | Incorporamenti personalizzati compatibili con OpenAI |
Sessioni effimere (esposizione segreta zero)#
Le applicazioni front-end a pagina singola e le app mobili non devono mai incorporare chiavi API back-end (aura_anon_... o aura_sk_...) per endpoint LLM aperti. Aurabase risolve questo problema con sessioni di funzionalità effimere:
// Nel tuo backend, componente server Next.js o funzione Edge:
const session = await aura.ai.session()
// L'istanza della sessione contiene un ticket di capacità 300 firmato con JWT HMAC:
const { content, budget_remaining } = await session.chat([
{ role: 'user', content: 'Summarize my dashboard statistics.' }
])
console.log('Tokens remaining in session:', budget_remaining)
Il ticket è vincolato alla quota token mensile rimanente del progetto. Quando il budget della sessione allocato è esaurito, il gateway rifiuta le richieste con HTTP 429 Too Many Requests (code: "session_budget_exceeded"), proteggendo l'organizzazione dagli attacchi Denial of Wallet sul lato client.
Chat, streaming, pgvector e RAG#
for await (const chunk of aura.ai.chatStream([
{ role: 'user', content: 'Draft a Data Processing Agreement clause under GDPR.' }
], { provider: 'anthropic', model: 'claude-3-5-sonnet', temperature: 0.1 })) {
process.stdout.write(chunk.delta)
}
Registri di controllo e quote#
Ogni chiamata AI viene registrata con token di richiesta/completamento, token di ragionamento (inclusi pensieri Gemini), fornitore, modello upstream, durata e stato.
API dei registri in tempo reale
Ispeziona i log di controllo tramite GET /v1/ai/{project_id}/logs:
curl "https://<slug>.aurabase.dev/v1/ai/$PROJECT_ID/logs?limit=10" \
-H "apikey: $AURABASE_SERVICE_ROLE_KEY"
I limiti di velocità vengono applicati su un bucket di token per progetto (10 richieste/min con burst 5 per impostazione predefinita). I limiti del piano mensile si applicano a ai.requests, ai.input_tokens e ai.output_tokens. Il superamento dei limiti del piano mensile restituisce HTTP 403 Forbidden (QUOTA_EXCEEDED).