Yapay Zeka Ağ Geçidi
Rust'de egemen Avrupa AI ağ geçidi: OpenAI, Anthropic, Gemini, 10 ms'nin altında pgvector arama, geçici özellik biletleri ve NL2SQL.
Tek uç nokta, N sağlayıcı#
Aurabase AI Ağ Geçidi, büyük LLM sağlayıcıları için birleşik bir HTTP ve SDK yüzeyidir. Aynı kod OpenAI, Anthropic ve Google Gemini'de de çalışır; yalnızca provider değerini değiştirirsiniz veya proje varsayılanına güvenirsiniz.
Ağ geçidi dört yerel sütunu içerir:
- Otomatik Geri Dönüş: Birincil sağlayıcıda yukarı akış kesintileri veya zaman aşımları (5xx/408) yaşandığında otomatik olarak ikincil sağlayıcıya geri döner.
- Geçici Oturumlar: Sınırlı belirteç bütçeleriyle kısa ömürlü yetenek biletleri (300 saniye TTL) düzenleyerek istemci ön uçlarında API anahtarının açığa çıkmasını ortadan kaldırır.
- Çok Boyutlu pgvector: 5 ms'nin altında HNSW benzerlik aramasıyla özel boyutlu sütun yönlendirme (
embedding_768,embedding_1536,embedding_3072). - AST-Doğrulandı NL2SQL: Mutasyonları yasaklayan ve satır sınırlarını uygulayan bir Soyut Sözdizimi Ağacı ayrıştırıcısı tarafından doğrulanan PostgreSQL sorgularını sentezler.
Desteklenen LLM ve yerleştirme modelleri#
| sağlayıcı | Sohbet ve Tamamlama Modelleri | Desteklenen Yerleştirmeler |
|---|---|---|
| Antropik | claude-3-5-sonnet, claude-3-5-haiku, claude-3-opus | — |
| OpenAI | gpt-4o, gpt-4o-mini, o1, o3-mini | text-embedding-3-small (1536), text-embedding-3-large (3072) |
| Google Gemini | gemini-1.5-pro, gemini-1.5-flash, gemini-2.0-flash | text-embedding-004 (768) |
| Özel / Ollama | OpenAI uyumlu herhangi bir uç nokta | Özel OpenAI uyumlu yerleştirmeler |
Geçici oturumlar (Sıfır gizli açığa çıkma)#
Ön uç tek sayfalı uygulamalar ve mobil uygulamalar, açık uçlu LLM uç noktaları için asla arka uç API anahtarlarını (aura_anon_... veya aura_sk_...) yerleştirmemelidir. Aurabase bunu geçici yetenek oturumlarıyla çözüyor:
// Arka ucunuzda, Next.js Sunucu Bileşeninde veya Edge İşlevinde:
const session = await aura.ai.session()
// Oturum örneği, JWT HMAC ile imzalanmış 300 saniyelik bir yetenek biletini tutar:
const { content, budget_remaining } = await session.chat([
{ role: 'user', content: 'Summarize my dashboard statistics.' }
])
console.log('Tokens remaining in session:', budget_remaining)
Bilet, projenin kalan aylık token kotası ile sınırlıdır. Tahsis edilen oturum bütçesi tükendiğinde ağ geçidi, istekleri HTTP 429 Too Many Requests (code: "session_budget_exceeded") ile reddederek kuruluşunuzu istemci tarafı cüzdan reddi saldırılarına karşı korur.
Sohbet, akış, pgvector ve RAG#
for await (const chunk of aura.ai.chatStream([
{ role: 'user', content: 'Draft a Data Processing Agreement clause under GDPR.' }
], { provider: 'anthropic', model: 'claude-3-5-sonnet', temperature: 0.1 })) {
process.stdout.write(chunk.delta)
}
Denetim günlükleri ve kotalar#
Her yapay zeka çağrısı, istem/tamamlama belirteçleri, akıl yürütme belirteçleri (Gemini düşünceleri dahil), sağlayıcı, yukarı akış modeli, süre ve durumla birlikte günlüğe kaydedilir.
Gerçek Zamanlı Günlükler API'sı
Denetim günlüklerini GET /v1/ai/{project_id}/logs aracılığıyla inceleyin:
curl "https://<slug>.aurabase.dev/v1/ai/$PROJECT_ID/logs?limit=10" \
-H "apikey: $AURABASE_SERVICE_ROLE_KEY"
Hız sınırları, proje başına bir jeton kümesine uygulanır (varsayılan olarak patlama 5 ile 10 istek/dak). Aylık plan sınırları ai.requests, ai.input_tokens ve ai.output_tokens genelinde geçerlidir. Aylık plan sınırlarının aşılması HTTP 403 Forbidden (QUOTA_EXCEEDED) değerini döndürür.