This article brings together what identifiable third-party sources publish about WebAssembly's cold start compared to containers: a paper presented at USENIX NSDI, official documentation from Fastly, WasmEdge and Wasmer, and an academic research project on serverless isolation. No Aurabase figures are included. Our edge functions run well on Wasmtime, verified in the repository, but no cold start benchmark specific to our infrastructure has been published to date, a distinction detailed below. For the general benchmarking method applied elsewhere on this blog, see our pillar article onbenchmarking methodology.
अनिवार्य है
- AWS Firecracker पेपर (Agache et al., USENIX NSDI 2020) 125 एमएस के तहत एक माइक्रोवीएम स्टार्टअप और 5 MiB के तहत एक मेमोरी ओवरहेड का दस्तावेजीकरण करता है: इस लेख में सबसे सटीक मात्रात्मक संदर्भ।
- Fastly ने 2019 में अपने AOT ल्यूसेट रनटाइम (जिसके अनुकूलन को Wasmtime में विलय कर दिया गया था) के लिए एक मिलीसेकंड से कम WASM इंस्टेंटेशन समय दर्ज किया। यह आपूर्तिकर्ता द्वारा प्रकाशित एक आंकड़ा है, यहां परामर्श किए गए स्रोतों में कभी भी स्वतंत्र रूप से पुन: प्रस्तुत नहीं किया गया है।
- WasmEdge, सीएनसीएफ शासन के तहत एक परियोजना, अपने आधिकारिक दस्तावेज में दावा करती है कि इस लेख में उद्धृत स्वतंत्र प्रति-उपायों के बिना, समकक्ष डॉकर कंटेनर की तुलना में काफी कम स्टार्टअप और मेमोरी फ़ुटप्रिंट है।
- Wasmtime, Wasmer और WasmEdge एक ही तरीके से संकलित नहीं होते हैं (क्रेनलिफ्ट, सिंगलपास/क्रेनलिफ्ट/एलएलवीएम आपकी पसंद का, स्वयं का एओटी कंपाइलर): बैकएंड की यह पसंद उनके प्रकाशित आंकड़ों के बीच अंतर का एक अच्छा हिस्सा बताती है, न कि केवल रनटाइम की तरह।
- Aurabase अपने एज फ़ंक्शंस के लिए उत्पादन में Wasmtime का उपयोग करता है, जिसे
aura-functions/Cargo.tomlमें सत्यापित किया गया है, लेकिन आज तक अपने स्वयं के बुनियादी ढांचे पर मापा गया कोई भी कोल्ड स्टार्ट आंकड़े प्रकाशित नहीं करता है।
नीचे उद्धृत तृतीय-पक्ष स्रोतों को उनके शीर्षक, उनके लेखक या प्रकाशक और उनकी प्रकाशन तिथि से पहचाना जा सकता है। यह शोध वेबअसेंबली और सर्वर रहित पारिस्थितिकी तंत्र में मान्यता प्राप्त और व्यापक रूप से प्रलेखित प्रकाशनों पर निर्भर करता है, न कि लेखन के समय उनके पृष्ठों की लाइव क्वेरी पर। जहां एक सटीक आंकड़े की पर्याप्त निश्चितता के साथ पुष्टि नहीं की जा सकती है, यह लेख सटीक मूल्य के बजाय परिमाण के क्रम का उपयोग करता है, और इसे स्पष्ट रूप से बताता है।
WASM कोल्ड स्टार्ट सर्वर रहित बहस में इतनी जगह क्यों घेरता है
कोल्ड स्टार्ट एक अनुरोध द्वारा भुगतान की गई अतिरिक्त विलंबता को संदर्भित करता है जब निष्पादन वातावरण को एप्लिकेशन कोड चलने से पहले प्रारंभ करना होगा। क्लासिक एज या सर्वर रहित फ़ंक्शन पर, यह एक सीमांत मामला होने से बहुत दूर है: एक प्लेटफ़ॉर्म जो दो ट्रैफ़िक शिखरों के बीच शून्य उदाहरणों तक जाता है, या जो भौगोलिक रूप से बिखरे हुए दर्जनों एज नोड्स में अपने निष्पादन को वितरित करता है, इस लागत का भुगतान स्थायी रूप से करता है, न कि केवल पहली तैनाती पर।
मार्च 2019 में ट्विटर पर प्रकाशित डॉकर के सह-संस्थापक सोलोमन हाइक्स के एक वाक्य के बाद से इस विषय ने WASM पारिस्थितिकी तंत्र में लगभग प्रतीकात्मक महत्व ले लिया है: "यदि WASM+WASI 2008 में मौजूद होता, तो हमें डॉकर बनाने की आवश्यकता नहीं होती। यह कितना महत्वपूर्ण है। सर्वर पर WebAssembly कंप्यूटिंग का भविष्य है। » यह एक मान्यता प्राप्त व्यवसायी की राय है, माप नहीं। यह बताता है कि विषय क्यों है मोहित करता है, यह किसी स्रोतित आंकड़े को प्रतिस्थापित नहीं करता है।
Aurabase अपने एज फ़ंक्शंस के लिए दो पथ प्रदान करता है: स्टूडियो संपादक, जो हमारे Supabase माइग्रेशन गाइड में प्रलेखित Deno रनटाइम में कोड चलाता है, और aura functions deployCLI, जिसका लक्ष्य Rust में लिखे गए और WASM पर संकलित कार्यों के लिए एक अलग पथ है। Wasmtime. यह दूसरा रास्ता है जिस पर यह लेख प्रकाश डालता है, बिना कोई ठंडी शुरुआत का आंकड़ा दिए, जो अभी तक मौजूद नहीं है।
क्यों WASM मॉड्यूल एक कंटेनर की तुलना में संरचनात्मक रूप से तेजी से शुरू होता है
अंतर निरपेक्ष रूप से तेज़ रनटाइम से नहीं आता है: यह क्वेरी और एप्लिकेशन कोड के बीच चरणों के छोटे ढेर से आता है।
एक कंटेनर शुरू करने से होस्ट कर्नेल जुटाया जाता है: एक नई प्रक्रिया बनाना, इसे अलग करने वाले सीग्रुप और नेमस्पेस सेट करना, छवि की परतों को माउंट करना, फिर एप्लिकेशन रनटाइम को अंदर शुरू करना (नोड.जेएस और इसके वी 8 इंजन, उदाहरण के लिए, स्वयं एक आरंभीकरण लागत है)। प्रत्येक चरण सिस्टम कॉल जोड़ता है और, स्थानीय रूप से कभी नहीं देखी गई छवि के लिए, शुरू होने से पहले ही एक नेटवर्क डाउनलोड होता है।
WebAssembly मॉड्यूल को वर्चुअल मशीन भाषा स्तर पर अलग किया जाता है, ऑपरेटिंग सिस्टम स्तर पर नहीं। किसी मॉड्यूल को इंस्टेंट करने का अर्थ है इसकी रैखिक मेमोरी को आवंटित करना, इसके आयात को बाध्य करना, फिर इसके प्रवेश बिंदु पर कूदना, यह सब होस्ट रनटाइम की पहले से ही शुरू की गई प्रक्रिया के भीतर है। कोई नई प्रक्रिया नहीं, कोई छवि परतें नहीं, कोई डिफ़ॉल्ट फ़ाइल सिस्टम माउंट नहीं।
संकलन मोड का चयन एक अतिरिक्त चर जोड़ता है। Wasmtime मॉड्यूल लोड होने पर अपने क्रेनलिफ्ट बैकएंड के माध्यम से JIT को संकलित करता है, या इसे wasmtime compile के साथ पहले से प्रीकंपाइल कर सकता है, जो पहले से ही मूल मशीन कोड में परिवर्तित .cwasm फ़ाइल उत्पन्न करता है। प्रारंभिक संकलन (एओटी) अनुरोध के महत्वपूर्ण पथ से संकलन चरण को हटा देता है: यह बिल्कुल वह लीवर है जिसे कोल्ड स्टार्ट के प्रति संवेदनशील एज आर्किटेक्चर को सक्रिय करना होगा।
# Aurabase भंडार से वास्तविक उद्धरण
# WASM रनटाइम
wasmtime = { version = "43", features = ["async", "cranelift"] }
यह एक उत्पादन निर्भरता है, विकास नहीं: यह पुष्टि करता है कि Wasmtime वास्तव में Aurabase एज फ़ंक्शंस के सीएलआई पथ पर चलता है। हालाँकि, यह किसी भी विलंबता आंकड़े की पुष्टि नहीं करता है, जो तब तक सत्य रहता है जब तक कोई दिनांकित बेंचमार्क प्रकाशित नहीं होता है।
कंटेनर और माइक्रोवीएम: सबसे सटीक मात्रात्मक संदर्भ
इस क्षेत्र में, सबसे मजबूत स्रोत एक उद्योग अनुसंधान पत्र है, न कि कोई मार्केटिंग ब्लॉग पोस्ट। Firecracker, AWS द्वारा विकसित और विशेष रूप से लैम्ब्डा और फार्गेट के लिए उपयोग की जाने वाली हल्की माइक्रोवीएम तकनीक, Agache et al द्वारा USENIX NSDI 2020 सम्मेलन में प्रस्तुत की गई थी। लेख में "Firecracker: सर्वर रहित अनुप्रयोगों के लिए लाइटवेट वर्चुअलाइजेशन"।
यह पेपर एक ही भौतिक मशीन पर हजारों माइक्रोवीएम चलाने की क्षमता के साथ 125 एमएस से कम का बूट समय और 5 एमआईबी प्रति माइक्रोवीएम से कम मेमोरी ओवरहेड का दस्तावेजीकरण करता है। यह एक दिनांकित आंकड़ा (2020) है, जो एक सहकर्मी-समीक्षित अकादमिक प्रकाशन से लिया गया है, और तब से सर्वर रहित अलगाव पर साहित्य में व्यापक रूप से उद्धृत किया गया है।
एक मानक डॉकर कंटेनर आमतौर पर अधिक होता है: छवि के आकार, इसे डाउनलोड करने की आवश्यकता और एम्बेडेड एप्लिकेशन रनटाइम के बूट समय के आधार पर कुछ सौ मिलीसेकंड से लेकर कई सेकंड तक। Firecracker के विपरीत, यहां सार्वभौमिक रूप से उद्धृत कोई एकल आंकड़ा नहीं है: परिणाम सर्वसम्मति प्राप्त करने के लिए एकल मान के लिए परीक्षण की गई छवि पर बहुत अधिक निर्भर करता है।
WebAssembly: क्या Fastly, WasmEdge और अकादमिक शोध दस्तावेज़
तीन स्रोत, तीन अलग-अलग स्थितियाँ: एक ऐतिहासिक आपूर्तिकर्ता, फाउंडेशन गवर्नेंस के तहत एक परियोजना, और एक शोध पत्र।
Fastly ने 2019 में ल्यूसेट पर Compute@Edge लॉन्च किया, इसका अपना प्री-कंपाइलिंग WASM कंपाइलर और रनटाइम है। इस लॉन्च में, कंपनी ने एक मिलीसेकंड से भी कम समय में WASM इंस्टेंटेशन समय दर्ज किया, जो परिमाण का एक क्रम था जिसका उद्योग में WASM कोल्ड स्टार्ट डिस्कोर्स पर स्थायी प्रभाव पड़ा। 2021 में, Fastly ने ल्यूसेट के स्वायत्त विकास को बंद कर दिया और अपने प्रयासों को Wasmtime की ओर पुनर्निर्देशित किया, जिसके क्रेनलिफ्ट संकलन बैकएंड को इन अनुकूलन का हिस्सा विरासत में मिला: यह एक कारण है कि Wasmtime इस प्रकार के लोड के लिए आज भी एक संदर्भ बना हुआ है।
WasmEdge, सीएनसीएफ गवर्नेंस (मूल रूप से एसएसवीएम, सेकेंड स्टेट द्वारा समर्थित) के तहत एक WASM रनटाइम, अपने आधिकारिक दस्तावेज में किनारे और IoT लोड पर एक स्पष्ट स्थिति के साथ समकक्ष डॉकर कंटेनर की तुलना में काफी कम स्टार्टअप और मेमोरी फ़ुटप्रिंट का दावा करता है। यह स्वयं परियोजना प्रकाशक द्वारा प्रकाशित एक आंकड़ा है, जिसे इस प्रकार पढ़ा जा सकता है: एक उत्पाद दावा, कोई स्वतंत्र ऑडिट नहीं।
शैक्षणिक अनुसंधान पक्ष पर, Faasm (Shillaker & Pietzuch, USENIX ATC 2020, प्री-पब्लिकेशन में भी उपलब्ध है) WebAssembly आइसोलेशन (WAVM के माध्यम से, Wasmtime नहीं) पर भरोसा करते हुए एक स्टेटफुल सर्वरलेस प्लेटफॉर्म बनाता है, क्योंकि यह किसी फ़ंक्शन को कंटेनर या VM द्वारा आइसोलेशन की तुलना में बहुत कम लागत पर तुरंत चालू करने की अनुमति देता है। पेपर विशेष रूप से Wasmtime के बारे में नहीं है, लेकिन यह पिछले अनुभाग में संरचनात्मक तर्क को स्वतंत्र अकादमिक मान्यता प्रदान करता है।
Wasmtime बनाम Wasmer बनाम WasmEdge: प्रकाशित संख्याएँ पंक्तिबद्ध क्यों नहीं हैं
केवल नाम से इन तीन रनटाइम की तुलना करने से वास्तविक चर छिप जाता है: चुना गया संकलन बैकएंड, जो स्टार्टअप गति और निष्पादन प्रदर्शन के बीच संतुलन को मौलिक रूप से बदल देता है।
| Wasmtime | क्रेनलिफ्ट (डिफ़ॉल्ट रूप से JIT) + wasmtime संकलन के माध्यम से AOT | बाइटकोड एलायंस · खुला शासन, Fastly, Shopify, Aurabase द्वारा उपयोग किया जाता है |
|---|---|---|
| Wasmer | अपनी पसंद का सिंगलपास, क्रेनलिफ्ट या एलएलवीएम | सिंगलपास संकलन समय को कम करता है; एलएलवीएम निष्पादन प्रदर्शन को अधिकतम करता है |
| WasmEdge | प्रोजेक्ट-विशिष्ट एओटी कंपाइलर | सीएनसीएफ · एज/आईओटी और क्लाउड-नेटिव स्थित है |
सिंगलपास, Wasmer का सबसे तेज़ संकलन बैकएंड, सटीक रूप से मौजूद है क्योंकि इसकी टीम ने कोल्ड स्टार्ट को स्थिर-स्थिति निष्पादन प्रदर्शन की एक विशिष्ट धुरी के रूप में पहचाना है: सिंगलपास में संकलित एक मॉड्यूल तेजी से शुरू होता है, लेकिन एलएलवीएम में संकलित समान मॉड्यूल की तुलना में पीक लोड के दौरान धीमी गति से चलता है। यह एक स्वीकृत समझौता है, कोई छिपी हुई खामी नहीं।
Wasmer ने Wasmtime के विरुद्ध अपनी स्वयं की प्रदर्शन तुलना प्रकाशित की है, एक ऐसी प्रथा जिसने WASM समुदाय में उपयोग की जाने वाली पद्धति और परीक्षण किए गए परिदृश्यों की तुलना पर बहस छेड़ दी है। यह बुरे विश्वास का आरोप नहीं है: यह एक संरचनात्मक अनुस्मारक है। एक रनटाइम संपादक का उस परिदृश्य को प्रकाशित करने में निहित स्वार्थ होता है जहां वह जीतता है, जो किसी एकल नंबर पर आर्किटेक्चर विकल्प पर निर्णय लेने से पहले स्वतंत्र सत्यापन को और अधिक उपयोगी बनाता है।
तुलनात्मक तालिका: प्रत्येक स्रोत क्या दस्तावेज करता है, और क्या नहीं
| Firecracker (एडब्ल्यूएस) | <125 एमएस स्टार्टअप, <5 एमआईबी ओवरहेड सहकर्मी-समीक्षित शोध पत्र | अगाचे एट अल., यूसेनिक्स एनएसडीआई 2020 |
|---|---|---|
| ल्यूसेट → Wasmtime (Fastly) | मिलीसेकंड के तहत तात्कालिकता (2019) आपूर्तिकर्ता आंकड़ा, यहां पुन: प्रस्तुत नहीं किया गया है | Compute@Edge की घोषणा, Fastly |
| WasmEdge | छोटे स्टार्टअप और मेमोरी फ़ुटप्रिंट बनाम डॉकरपुब्लिशर उत्पाद का दावा | आधिकारिक WasmEdge दस्तावेज़ (सीएनसीएफ) |
| फासम (खोज) | WASM अलगाव एक कंटेनर की तुलना में तत्काल करने के लिए काफी सस्ता है, WAVM का उपयोग करता है, Wasmtime का नहीं | शिलाकर और पिट्ज़ुच, यूसेनिक्स एटीसी 2020 |
| मानक डॉकर कंटेनर | सैकड़ों एमएस से लेकर कई सेकंड तक कोई एकल सर्वसम्मति संख्या नहीं | व्यापक रूप से प्रलेखित व्यवहार |
These five lines do not read as a single classification: they come from different methodologies, dates and runtime generations. For a more in-depth methodological critique of the reliability of this type of WASM benchmark, our article on the limits of WebAssembly benchmarks goes further than the present comparison, which remains focused on what each source concretely asserts.
एज आर्किटेक्चर की पसंद के लिए यह अंतर वास्तव में क्या बदलता है
WASM का कोल्ड स्टार्ट लाभ पहले अनुरोध की विलंबता के प्रति सबसे अधिक संवेदनशील लोड पर सबसे अधिक मायने रखता है, सभी लोड पर समान रूप से नहीं।
यह विशेष रूप से बहुत अनियमित किनारे वाले ट्रैफ़िक (विस्फोट के बाद मौन) पर भार डालता है, कई अनुरोधों के बीच साझा किए गए प्रति कंटेनर के बजाय प्रति अनुरोध अलगाव पर, और एक बुनियादी ढांचे पर जो वास्तव में एक गर्म पूल को स्थायी रूप से रखने के बजाय दो चोटियों के बीच शून्य उदाहरणों तक चला जाता है। एक स्थिर और पूर्वानुमानित लोड पर, जहां उदाहरण वैसे भी गर्म रहते हैं, कोल्ड स्टार्ट गैप संरचनात्मक रूप से कम मायने रखता है।
WebAssembly कोल्ड स्टार्ट से भिन्न बाधाओं को भी बनाए रखता है: फ़ाइल सिस्टम या नेटवर्क तक पहुंच WASI के माध्यम से होती है, एक इंटरफ़ेस अभी भी रनटाइम और उनके संस्करणों के आधार पर विकसित हो रहा है, और जल्दी से शुरू करने के लिए संकलित एक मॉड्यूल (उदाहरण के लिए Wasmer तरफ सिंगलपास) जरूरी नहीं कि एक बार भारी लोड के तहत स्थापित हो जाए। कोल्ड स्टार्ट और चरम निष्पादन प्रदर्शन दो अलग-अलग अक्ष बने रहते हैं, एक ही संकलन प्रोफ़ाइल पर एक साथ शायद ही कभी इष्टतम होते हैं।
इस मानदंड पर एज आर्किटेक्चर की पसंद का मूल्यांकन करने के लिए, किसी भी आपूर्तिकर्ता से पूछने के लिए तीन ठोस प्रश्न, Aurabase में शामिल हैं: कौन सा सटीक रनटाइम उपयोग किया जाता है, कौन सा संकलन बैकएंड (जेआईटी या एओटी), और क्या उन्नत कोल्ड स्टार्ट आंकड़ा एक स्वतंत्र तीसरे पक्ष द्वारा या केवल रनटाइम प्रकाशक द्वारा ही मापा जाता है।
पूछे जाने वाले प्रश्न
क्या WebAssembly कोल्ड स्टार्ट अभी भी डॉकर कंटेनर से तेज़ है?+
Wasmtime, Wasmer और WasmEdge अलग-अलग शुरुआती नंबरों की घोषणा क्यों करते हैं?+
कोल्ड स्टार्ट के लिए एओटी (समय से पहले) संकलन वास्तव में क्या बदलता है?+
क्या Aurabase ने अपने एज WASM फ़ंक्शंस के लिए कोल्ड स्टार्ट बेंचमार्क जारी किया है?+
WASM रनटाइम की कोल्ड स्टार्ट और सर्वर रहित Postgres डेटाबेस के बीच क्या अंतर है?+
क्या हम स्वयं WASM रनटाइम संपादकों द्वारा प्रकाशित कोल्ड स्टार्ट बेंचमार्क पर भरोसा कर सकते हैं?+
For the database layer of this same problem, see our article on the serverless Postgres cold start.