Passerelle IA
Passerelle d'IA européenne souveraine dans Rust: OpenAI, Anthropic, Gemini, recherche pgvector inférieure à 10 ms, tickets de capacité éphémère et NL2SQL.
Un point de terminaison, N fournisseurs#
Aurabase AI Gateway est une surface HTTP et SDK unifiée pour les principaux fournisseurs LLM. Le même code s'exécute sur OpenAI, Anthropic et Google Gemini : vous modifiez uniquement provider ou vous vous fiez à la valeur par défaut du projet.
La passerelle intègre quatre piliers natifs :
- Repli automatisé: revient automatiquement à un fournisseur secondaire lorsque le fournisseur principal subit des pannes ou des délais d'attente en amont (5xx/408).
- Sessions éphémères: émet des tickets de fonctionnalité de courte durée (300 s TTL) avec des budgets de jetons limités, éliminant ainsi l'exposition des clés API dans les interfaces clients.
- Multidimensionnel pgvector: Routage de colonnes dimensionnelles dédié (
embedding_768,embedding_1536,embedding_3072) avec recherche de similarité HNSW inférieure à 5 ms. - AST-Verified NL2SQL: synthétise les requêtes PostgreSQL validées par un analyseur d'arbre de syntaxe abstraite qui interdit les mutations et applique les limites de lignes.
Modèles LLM et d'intégration pris en charge#
| Fournisseur | Modèles de discussion et de complétion | Intégrations prises en charge |
|---|---|---|
| Anthropique | claude-3-5-sonnet, claude-3-5-haiku, claude-3-opus | — |
| OpenAI | gpt-4o, gpt-4o-mini, o1, o3-mini | text-embedding-3-small (1536), text-embedding-3-large (3072) |
| Google Gémeaux | gemini-1.5-pro, gemini-1.5-flash, gemini-2.0-flash | text-embedding-004 (768) |
| Personnalisé / Ollama | Tout point de terminaison compatible OpenAI | Intégrations personnalisées compatibles OpenAI |
Séances éphémères (Zéro exposition secrète)#
Les applications frontales monopage et les applications mobiles ne doivent jamais intégrer de clés API backend (aura_anon_... ou aura_sk_...) pour les points de terminaison LLM ouverts. Aurabase résout ce problème avec des sessions de fonctionnalités éphémères :
// Dans votre backend, le composant serveur Next.js ou la fonction Edge :
const session = await aura.ai.session()
// L'instance de session contient un ticket de capacité de 300 s signé avec JWT HMAC:
const { content, budget_remaining } = await session.chat([
{ role: 'user', content: 'Summarize my dashboard statistics.' }
])
console.log('Tokens remaining in session:', budget_remaining)
Le ticket est limité au quota de jetons mensuel restant du projet. Lorsque le budget de session alloué est épuisé, la passerelle rejette les demandes avec HTTP 429 Too Many Requests (code: "session_budget_exceeded"), protégeant ainsi votre organisation des attaques par déni de portefeuille côté client.
Chat, streaming, pgvector et RAG#
for await (const chunk of aura.ai.chatStream([
{ role: 'user', content: 'Draft a Data Processing Agreement clause under GDPR.' }
], { provider: 'anthropic', model: 'claude-3-5-sonnet', temperature: 0.1 })) {
process.stdout.write(chunk.delta)
}
Journaux d'audit et quotas#
Chaque appel d'IA est enregistré avec des jetons d'invite/d'achèvement, des jetons de raisonnement (pensées Gémeaux incluses), un fournisseur, un modèle en amont, une durée et un statut.
API de journaux en temps réel
Inspectez les journaux d'audit via GET /v1/ai/{project_id}/logs:
curl "https://<slug>.aurabase.dev/v1/ai/$PROJECT_ID/logs?limit=10" \
-H "apikey: $AURABASE_SERVICE_ROLE_KEY"
Les limites de débit sont appliquées sur un compartiment de jetons par projet (10 req/min avec burst 5 par défaut). Les limites mensuelles du forfait s'appliquent sur ai.requests, ai.input_tokens et ai.output_tokens. Le dépassement des limites mensuelles du forfait renvoie HTTP 403 Forbidden (QUOTA_EXCEEDED).