नयाPublication of @aurabase/aurabase-js v0.7.5 NPM Packages & Rust Crate v0.1.2चेंजलॉग देखें →

मूल एआई · 10 मिनट पढ़ा

एआई गेटवे: देशी बनाम ओपनएआई-संगत प्रदाता

Affane Daylami · Fondateur · 31 मार्च 2026

ब्लॉग पर वापस जाएँ

एक एआई गेटवे एक ही प्रवेश बिंदु से कई एलएलएम प्रदाताओं को कॉल करता है। Aurabase पर, यह परत सीधे Postgres बैकएंड में रहती है। ओपनएआई, एंथ्रोपिक (क्लाउड) और गूगल जेमिनी प्रत्येक के पास एक हार्ड-कोडेड मूल क्लाइंट है, जिसकी अपनी त्रुटि प्रबंधन, टोकन बिलिंग और स्ट्रीमिंग है। बाकी सब कुछ, मिस्ट्रल, स्केलवे एआई, स्व-होस्टेड ओलामा, एक सामान्य ओपनएआई संगत एडाप्टर के माध्यम से जाता है। अंतर कॉस्मेटिक नहीं है: यह निर्धारित करता है कि वास्तव में क्या काम करता है (स्वचालित स्विचिंग, तर्क टोकन की सटीक गिनती) और क्या काम करता है "जब तक प्रदाता ईमानदारी से ओपनएआई एपीआई का अनुकरण करता है"।

यह पृष्ठ स्वचालित रूप से अनुवादित किया गया था. अंग्रेजी संस्करण प्रामाणिक है.

हमने इस अंतर को सीधे aura-aiसेवा के कोड में सत्यापित किया है, मार्केटिंग पेज में नहीं: तीन प्रदाता मॉड्यूल (anthropic, gemini, openai) गेटवे बनाते हैं, इससे अधिक कुछ नहीं। बाकी परिदृश्य इस बात की पुष्टि करता है कि यह एक वास्तविक डेवलपर श्रेणी है, कोई पृथक विपणन तर्क नहीं। Neon दो समर्पित पेज ("एआई गेटवे" और "एआई एजेंटों के लिए बैकएंड") प्रकाशित करता है, लाइटएलएलएम ने खुद को एक संदर्भ ओपन सोर्स प्रोजेक्ट के रूप में स्थापित किया है, और ब्रेनट्रस्ट ने अपनी तुलना इसके लिए समर्पित की है।

अनिवार्य है

  • कोड में सत्यापित 3 मूल प्रदाता: OpenAI, एंथ्रोपिक (क्लाउड), Google जेमिनी (aura-ai/src/llm/mod.rs)।
  • मिस्ट्रल, स्केलवे एआई और ओलामा जेनेरिक ओपनएआई एडाप्टर (OPENAI_BASE_URL) के माध्यम से जाते हैं, समर्पित क्लाइंट के माध्यम से नहीं।
  • मूल कनेक्शन से अधिक लाता है: (प्रोजेक्ट, आपूर्तिकर्ता) द्वारा सर्किट ब्रेकर, बैकऑफ़ के लिए पुनः प्रयास, फ़ॉलबैक चेन (डिफ़ॉल्ट ऑर्डर एंथ्रोपिक → ओपनएआई → Google), शटडाउन कारणों का मानकीकरण।
  • एंथ्रोपिक केवल चैट को कवर करता है: ओपनएआई और जेमिनी के विपरीत कोई एम्बेडिंग एपीआई नहीं है जो दोनों को कवर करता है।
  • Neon, लाइटएलएलएम और ब्रेनट्रस्ट तीन अलग-अलग दृष्टिकोणों के साथ बाजार पक्ष पर एक ही श्रेणी की पुष्टि करते हैं: प्रबंधित गेटवे, ओपन सोर्स प्रॉक्सी, तुलनात्मक सामग्री।
#
परिभाषा

Postgres बैकएंड पर AI गेटवे क्या है?

एआई गेटवे एप्लिकेशन पक्ष पर प्रत्येक एसडीके एकीकरण को कोड करने के बजाय, एक इंटरफ़ेस के पीछे बाहरी एलएलएम प्रदाताओं को कॉल को केंद्रीकृत करता है। एपीआई कुंजियाँ सर्वर-साइड रहती हैं, क्लाइंट के सामने कभी नहीं आतीं। गेटवे विभिन्न प्रतिक्रिया प्रारूपों के साथ प्रदाताओं के शीर्ष पर पुनः प्रयास, विफलता और लागत गणना की एक सामान्य परत जोड़ता है।

Aurabase जैसे Postgres बैकएंड पर, इस विकल्प का सीधा परिणाम होता है: वही गेटवे एप्लिकेशन चैट, NL2SQL (SQL में प्राकृतिक भाषा अनुवाद) और RAG (pgvector वेक्टर खोज) को शक्ति प्रदान करता है। एक खराब एकीकृत प्रदाता केवल एक ही नहीं, बल्कि सभी तीन सुविधाओं को एक साथ ख़राब कर देता है। यही वह चीज़ है जो कार्यान्वयन विवरण से अधिक मूल/संगत भेद बनाती है।

#
तकनीकी भेद

मूल प्रदाता या संगत समापन बिंदु: ठोस अंतर

एक मूल ग्राहक प्रदाता के एपीआई के वास्तविक रूप को एन्कोड करता है: अनुरोध संरचना, प्रतिक्रिया प्रारूप, इस प्रदाता के लिए विशिष्ट उपयोग फ़ील्ड। यह एंथ्रोपिक का मामला है, जिसका "संदेश" एपीआई ओपनएआई या जेमिनी से मिलता-जुलता नहीं है, जिसके तर्क टोकन (thoughtsTokenCount) की गिनती पहले से ही वहां शामिल होने के बजाय आउटपुट काउंटर में जोड़ दी जाती है।

एक OpenAI संगत समापन बिंदु मौजूदा OpenAI क्लाइंट का पुन: उपयोग करता है और केवल आधार URL को बदलता है। यह काम करता है क्योंकि तृतीय-पक्ष प्रदाता (मिस्ट्रल, स्केलवे एआई, ओलामा) ने ओपनएआई के एपीआई अनुबंध की नकल करना चुना, अक्सर विचलन के साथ: कोई अलग तर्क टोकन फ़ील्ड नहीं, त्रुटियों के सटीक रूप पर कोई गारंटी नहीं। अनुकूलता वहीं समाप्त हो जाती है जहां नकल समाप्त होती है।

#
कोड में चेक किया गया

Aurabase पर 3 मूल एलएलएम ग्राहक, अब और नहीं

वह फ़ाइल जो प्रदाताओं को aura-ai में व्यवस्थित करती है, अस्पष्टता के लिए कोई जगह नहीं छोड़ती है। तीन मॉड्यूल, प्रति मूल प्रदाता एक, और कुछ घोषित नहीं।

llm/mod.rsrust
pub mod anthropic;
pub mod gemini;
pub mod openai;

प्रत्येक मॉड्यूल ChatProvider विशेषता (पूर्णता, स्ट्रीमिंग, मॉडल नाम) लागू करता है। उनमें से दो, ओपनएआई और जेमिनी, अतिरिक्त रूप से EmbeddingProvider लागू करते हैं। एंथ्रोपिक को इसकी आवश्यकता नहीं है: क्लाउड विक्रेता-पक्ष एम्बेडिंग एपीआई को उजागर नहीं करता है, एंथ्रोपिक का ही एक उत्पाद तथ्य है, न कि Aurabase कोड की कमी।

ओपनएआईमूल ग्राहकउच्च निष्ठा वेक्टर एम्बेडिंग की चैट + गणना
एंथ्रोपिक (क्लाउड)मूल ग्राहकचैट अनुमान और संरचित मॉडल समापन क्लाउड
गूगल जेमिनीमूल ग्राहकचैट + एम्बेडिंग, एडिटिव रीजनिंग टोकन काउंटिंग
मिस्ट्रालसंगत स्थानमानक OpenAI संगत प्रोटोकॉल (कस्टम URL) के माध्यम से रूटिंग
स्केलवे एआईसंगत स्थानopenai.rs क्लाइंट के माध्यम से रूट करें, वेरिएबल OPENAI_BASE_URL
ओलामा (स्व-मेज़बान)संगत स्थानopenai.rs क्लाइंट के माध्यम से रूट करें, वेरिएबल OPENAI_BASE_URL
#
स्थापित करना

मिस्ट्रल, स्केलवे एआई या ओलामा को Aurabase प्रोजेक्ट से कनेक्ट करें

मिस्ट्रल, स्केलवे एआई या ओलामा को कॉन्फ़िगर करने के लिए नए मॉड्यूल की आवश्यकता नहीं होती है: वही OPENAI_BASE_URL वेरिएबल openai.rs क्लाइंट को किसी अन्य संगत एंडपॉइंट पर रीडायरेक्ट करता है। यह एक कॉन्फ़िगरेशन टॉगल है, विकास नहीं।

.env आभा-एआईbash
# डिफ़ॉल्ट प्रदाता: मूल OpenAI
OPENAI_API_KEY=sk-...

# ओपनएआई संगत प्रदाता पर स्विच करें (मिस्ट्रल, स्केलवे एआई, ओलामा...)
OPENAI_API_KEY=<clé du fournisseur choisi>
OPENAI_BASE_URL=<URL de base compatible OpenAI du fournisseur>
# जैसे मिस्ट्रल: https://api.mistral.ai/v1

व्यवहार तदनुसार बदलता रहता है। HTTP त्रुटियाँ उसी तंत्र द्वारा वर्गीकृत रहती हैं (429 → दर सीमा, 5xx → क्षणिक और पुनः प्रयास योग्य, 404 → अज्ञात मॉडल), क्योंकि वर्गीकरण HTTP परिवहन स्तर पर रहता है, न कि प्रदाता-विशिष्ट पार्सिंग पर। क्या अनुसरण नहीं करता है: समर्पित जेमिनी क्लाइंट के लिए विशिष्ट तर्क टोकन की सटीक गिनती।

#
लचीलापन

नेटिव गेम चेंजर क्यों है: स्विचओवर, त्रुटियां, बिलिंग

Aurabase गेटवे तीन मूल ग्राहकों के शीर्ष पर तीन लचीलापन तंत्र जोड़ता है। प्रति जोड़ी (प्रोजेक्ट, प्रदाता) एक सर्किट ब्रेकर बार-बार विफल प्रदाता को कॉल काटता है, इसे फिर से खोलने से पहले अर्ध-खुली स्थिति में एक जांच टोकन के साथ। बाहरी यादृच्छिक संख्या लाइब्रेरी पर निर्भरता के बिना, घबराहट के साथ एक घातीय बैकऑफ पुनः प्रयास क्षणिक त्रुटियों (टाइमआउट, 5xx, 429) को पुनरारंभ करता है।

पुनः प्रयास करें और फ़ॉलबैक भोलेपन से ढेर न करें

जब कई प्रदाताओं को एक श्रृंखला में कॉन्फ़िगर किया जाता है, तो प्रवर्धन (पुनः प्रयास × फ़ॉलबैक) से बचने के लिए, अगले पर स्विच करने से पहले प्रति प्रदाता केवल एक प्रयास किया जाता है, जो अपस्ट्रीम कॉल और कुल विलंबता को बढ़ा देगा। इस चैनल का डिफ़ॉल्ट क्रम एंथ्रोपिक, फिर ओपनएआई, फिर गूगल जेमिनी है।

प्रत्येक प्रदाता प्रतिक्रिया को रोकने का कारण भी अलग-अलग बताता है: OpenAI में length, जेमिनी में MAX_TOKENS, एंथ्रोपिक में max_tokens, एक ही वास्तविकता (छंटनी) के लिए। कोड इन तीन शब्दावलियों को एक सामान्य सेट (stop, length, content_filter, tool_use, other) की ओर सामान्यीकृत करता है। इस मानकीकरण के बिना, एक बहु-विक्रेता ग्राहक को एक संक्षिप्त प्रतिक्रिया का पता लगाने के लिए सभी तीन शब्दावलियों को जानने की आवश्यकता होगी।

बिलिंग उसी जोखिम को दर्शाती है। ओपनएआई और एंथ्रोपिक में, मॉडल का तर्क पहले से ही चार्ज किए गए आउटपुट टोकन के काउंटर में शामिल है। जेमिनी में, thoughtsTokenCount को candidatesTokenCount में अलग से जोड़ा जाता है: इसे अनदेखा करने से क्वेरी की वास्तविक लागत कम हो जाती है। जेनेरिक ओपनएआई संगत एडॉप्टर के पास जेमिनी के मूल प्रतिक्रिया प्रारूप के लिए विशिष्ट इस विशिष्टता को जानने का कोई कारण नहीं है।

#
लैंडस्केप 2026

Neon, लाइटएलएलएम, ब्रेनट्रस्ट: 2026 में सर्वश्रेष्ठ एलएलएम गेटवे कहां हैं?

बाजार इस बात की पुष्टि करता है कि एआई गेटवे एक अपेक्षित ईंट बन गया है, न कि एक पृथक विपणन तर्क। Neon दो समर्पित उत्पाद पृष्ठ, "एआई गेटवे" और "एआई एजेंटों के लिए बैकएंड" प्रकाशित करता है, दोनों Postgres डेवलपर उन्मुख हैं। लाइटएलएलएम ने ओपनएआई के करीब एक प्रारूप के पीछे बड़ी संख्या में प्रदाताओं को कॉल को एकीकृत करने के लिए खुद को एक संदर्भ ओपन सोर्स प्रोजेक्ट के रूप में स्थापित किया है। ब्रेनट्रस्ट, अपनी ओर से, विषय पर अपनी तुलना प्रकाशित करता है, यह संकेत है कि श्रेणी समर्पित संपादकीय सामग्री को उचित ठहराने के लिए पर्याप्त मजबूत है।

ये खिलाड़ी एक वास्तविक आवश्यकता पर प्रतिक्रिया देते हैं: एप्लिकेशन कोड और किसी दिए गए एलएलएम प्रदाता के बीच युग्मन को कम करना। Aurabase के साथ अंतर एकीकरण है। गेटवे बैकएंड के बगल में नहीं रहता है: यह समान Postgres डेटाबेस पर NL2SQL और RAG जैसी समान सेवा साझा करता है। विपरीत समझौता भी मौजूद है: लाइटएलएलएम जैसी एक समर्पित प्रॉक्सी आमतौर पर एप्लिकेशन बैकएंड में एकीकृत गेटवे की तुलना में अधिक प्रदाताओं को कवर करती है।

AurabasePostgres बैकएंड (aura-ai सेवा) के साथ एकीकृत3 सत्यापित मूल निवासी + बाकी के लिए OpenAI संगत
Neon एआई गेटवेसमर्पित उत्पाद, प्रबंधित Postgres डेटाबेस के साथदो अलग-अलग आधिकारिक पृष्ठों पर प्रलेखित
लाइटएलएलएमकिसी भी बैकएंड के सामने स्वतंत्र ओपन सोर्स प्रॉक्सीOpenAI के समान प्रारूप के माध्यम से प्रदाताओं की विस्तृत श्रृंखला
#
संपादकीय ईमानदारी

नेटिव गेटवे कब चुनना है, सामान्य प्रॉक्सी कब चुनना है

Aurabase जैसे देशी गेटवे का वास्तविक लाभ तब होता है जब बैकएंड और AI को एक ही सिस्टम में रहना चाहिए: NL2SQL, RAG और एप्लिकेशन चैट तब समान लचीलापन नीति और समान बिलिंग साझा करते हैं, बिना अतिरिक्त सेवाओं के संचालन के।

विपरीत समझौता मौजूद है. यदि आपकी प्राथमिकता बहुत बड़ी संख्या में प्रदाताओं को कवर करना है, या यदि गेटवे को केवल Postgres प्रोजेक्ट ही नहीं बल्कि कई स्वतंत्र बैकएंड की सेवा देनी है, तो LiteLLM जैसी सामान्य प्रॉक्सी अक्सर सही विकल्प बनी रहती है। Aurabase कवरेज की इस चौड़ाई के साथ प्रतिस्पर्धा करने की कोशिश नहीं करता है: दांव 3 प्रमुख प्रदाताओं की गहराई है, जो बाकी बैकएंड के साथ एकीकृत है।

यह समझने के लिए कि यह एकीकरण बाहरी कनेक्टर्स का उपयोग करने वाले दृष्टिकोण की तुलना में NL2SQL के उपयोग को कैसे ठोस रूप से बदलता है, Supabase द्वारा चुना गया दृष्टिकोण, देखें Supabase कनेक्टर्स पर निर्भर करता है, मूल NL2SQL पर नहीं।

#
सिंहावलोकन

एकीकृत देशी गेटवे बनाम सामान्य एलएलएम प्रॉक्सी

उन मानदंडों का सारांश जो वास्तव में मूल्य निर्णय के बिना, दो दृष्टिकोणों को अलग करते हैं: प्रत्येक एक अलग आवश्यकता पर प्रतिक्रिया करता है।

आपूर्तिकर्ताओं3 प्रमुख आपूर्तिकर्ताओं पर गहराई + बाकी के लिए OpenAI संगतआपूर्तिकर्ताओं की विस्तृत श्रृंखला, आम तौर पर समान एकीकरण
एपीआई कुंजियाँबैकएंड की ओर एन्क्रिप्टेड, डेटाबेस के समान सेवाप्रॉक्सी पक्ष पर एन्क्रिप्टेड, सेवा एप्लिकेशन बैकएंड से अलग हो गई
NL2SQL / RAG लिंकवही सेवा, वही प्रदाता रिज़ॉल्वरकोई मूल लिंक नहीं, अपना स्वयं का एकीकरण बनाएं
लचीलापन(परियोजना, आपूर्तिकर्ता) द्वारा सर्किट ब्रेकर, फ़ॉलबैक, बैकऑफ़ के लिए पुनः प्रयास करेंप्रॉक्सी के लिए चुने गए कॉन्फ़िगरेशन पर निर्भर करता है
तैनातीसंचालित करने के लिए एक कम सेवा (पहले से ही बैकएंड में)अलग करने योग्य, कई परियोजनाओं/बैकएंड में पुन: प्रयोज्य

इस गेटवे को किसी ठोस मामले में काम करते हुए देखने के लिए, Postgres पर NL2SQL ट्यूटोरियल देखें। Aurabase की मूल AI क्षमताओं के विवरण के लिए, मूल AIपृष्ठ देखें।

#
अक्सर पूछे जाने वाले प्रश्नों

पूछे जाने वाले प्रश्न

क्या मिस्ट्रल का उपयोग Aurabase के साथ किया जा सकता है?+
हां, OpenAI संगत एंडपॉइंट के माध्यम से: मिस्ट्रल कुंजी के साथ OPENAI_API_KEY और मिस्ट्रल एपीआई बेस URL के साथ OPENAI_BASE_URL को कॉन्फ़िगर करें। यह एक समर्पित मूल ग्राहक नहीं है: मिस्ट्रल ओपनएआई प्रदाता के समान कोड का उपयोग करता है, समान सीमाओं के साथ, जिसमें तर्क टोकन की अलग गिनती की अनुपस्थिति भी शामिल है।
यदि प्राथमिक एलएलएम प्रदाता बंद हो जाए तो क्या होगा?+
प्रति जोड़ी (परियोजना, आपूर्तिकर्ता) एक ब्रेकर सर्किट बार-बार विफलताओं का पता लगाता है और इस आपूर्तिकर्ता को कॉल काट देता है। यदि फ़ॉलबैक श्रृंखला कॉन्फ़िगर की गई है (डिफ़ॉल्ट क्रम: एंथ्रोपिक, फिर ओपनएआई, फिर Google जेमिनी), तो क्वेरी स्वचालित रूप से अगले प्रदाता पर स्विच हो जाती है, जिसमें प्रति प्रदाता केवल एक ही प्रयास होता है ताकि पुनः प्रयास × फ़ॉलबैक प्रवर्धन से बचा जा सके।
मूल क्लाइंट और OpenAI संगत एंडपॉइंट के बीच क्या अंतर है?+
एक मूल ग्राहक प्रदाता के एपीआई के वास्तविक रूप को एन्कोड करता है: अनुरोध संरचना, प्रतिक्रिया प्रारूप, उस प्रदाता के लिए विशिष्ट उपयोग फ़ील्ड, जैसे जेमिनी में तर्क टोकन की योगात्मक गिनती। एक संगत समापन बिंदु केवल आधार URL को बदलकर मौजूदा OpenAI क्लाइंट का पुन: उपयोग करता है, जो तब तक काम करता है जब तक कि तृतीय-पक्ष प्रदाता OpenAI API अनुबंध की बारीकी से नकल करता है।
क्या Aurabase सभी मूल प्रदाताओं के लिए एम्बेडिंग की पेशकश करता है?+
नहीं, ओपनएआई और गूगल जेमिनी एम्बेडिंग इंटरफ़ेस लागू करते हैं, एंथ्रोपिक नहीं। क्लाउड प्रदाता-पक्ष एम्बेडिंग एपीआई को उजागर नहीं करता है: यह Aurabase कोड की कमी नहीं है, बल्कि एंथ्रोपिक उत्पाद की एक विशेषता है। एआई गेटवे तकनीकी गाइड विक्रेता, मूल या संगत द्वारा कॉन्फ़िगरेशन का विवरण देता है।

तैनाती के लिए तैयार हैं?

पाँच मिनट में आपका बैकएंड।

किसी क्रेडिट कार्ड की आवश्यकता नहीं · 500 एमबी निःशुल्क · 50,000 एमएयू