This article brings together what identifiable third-party sources publish about WebAssembly's cold start compared to containers: a paper presented at USENIX NSDI, official documentation from Fastly, WasmEdge and Wasmer, and an academic research project on serverless isolation. No Aurabase figures are included. Our edge functions run well on Wasmtime, verified in the repository, but no cold start benchmark specific to our infrastructure has been published to date, a distinction detailed below. For the general benchmarking method applied elsewhere on this blog, see our pillar article onbenchmarking methodology.
Temeller
- AWS Firecracker belgesi (Agache ve diğerleri, USENIX NSDI 2020), 125 ms'nin altında bir mikroVM başlatmayı ve 5 MiB'nin altında bir bellek ek yükünü belgelemektedir: bu makaledeki en kesin şekilde ölçülen referans.
- Fastly, 2019'da AOT Lucet çalışma zamanı için (optimizasyonları daha sonra Wasmtime ile birleştirildi) WASM örnekleme sürelerinin milisaniyenin altında olduğunu belgeledi. Bu, tedarikçi tarafından yayınlanan bir rakamdır ve burada başvurulan kaynaklarda hiçbir zaman bağımsız olarak çoğaltılmamıştır.
- CNCF yönetimi altındaki bir proje olan WasmEdge, resmi belgelerinde, bu makalede belirtilen bağımsız karşı önlemler olmaksızın, eşdeğer bir Docker konteynerine göre önemli ölçüde daha düşük bir başlangıç ve bellek alanı kapladığını iddia ediyor.
- Wasmtime, Wasmer ve WasmEdge aynı şekilde derlenmez (Cranelift, Singlepass/Cranelift/LLVM seçiminiz, kendi AOT derleyicisi): bu arka uç seçimi, yalnızca çalışma süresini değil, yayınlanan rakamlar arasındaki boşluğun büyük bir kısmını açıklar.
- Aurabase, uç işlevleri için üretimde Wasmtime kullanıyor,
aura-functions/Cargo.tomlile doğrulanıyor, ancak bugüne kadar kendi altyapısında ölçülen herhangi bir soğuk başlangıç rakamı yayınlamadı.
Aşağıda adı geçen üçüncü taraf kaynaklar; başlıklarına, yazarlarına veya yayıncılarına ve yayın tarihlerine göre tanımlanabilir. Bu araştırma, bu yazının yazıldığı sırada sayfalarının canlı sorgusuna değil, WebAssembly ve sunucusuz ekosistemdeki tanınmış ve geniş çapta belgelenmiş yayınlara dayanmaktadır. Kesin bir rakamın yeterli bir kesinlikle doğrulanamadığı durumlarda, bu makale kesin bir değer yerine büyüklük sırasını kullanır ve bunu açıkça belirtir.
WASM soğuk başlangıç, sunucusuz tartışmada neden bu kadar çok yer kaplıyor?
Soğuk başlatma, uygulama kodu çalıştırılmadan önce yürütme ortamının başlatılması gerektiğinde bir istek tarafından ödenen ek gecikmeyi ifade eder. Klasik bir uç veya sunucusuz işlevde bu, marjinal bir durum olmaktan çok uzaktır: iki trafik zirvesi arasında sıfır örneğe inen veya yürütmesini coğrafi olarak dağınık düzinelerce uç düğüme dağıtan bir platform, bu maliyeti yalnızca ilk dağıtımda değil kalıcı olarak öder.
Docker'ın kurucu ortağı Solomon Hykes'in Mart 2019'da Twitter'da yayınladığı şu cümleden beri konu WASM ekosisteminde neredeyse sembolik bir önem kazandı: "WASM+WASI 2008'de mevcut olsaydı, Docker'ı yaratmamıza gerek kalmazdı. İşte bu kadar önemli. Sunucudaki WebAssembly bilgi işlemin geleceğidir. » Bu tanınmış bir uygulayıcının görüşüdür, bir ölçüm değil. Konunun neden büyülendiğini açıklıyor, kaynaklı bir figürün yerini tutmuyor.
Aurabase uç işlevleri için iki yol sunar: Supabase geçiş kılavuzumuzda belgelendiği gibi Deno çalışma zamanında kod çalıştıran Studio düzenleyicisi ve Rust ile yazılmış ve derlenmiş işlevler için ayrı bir yol hedefleyen aura functions deployCLI. WASM Wasmtime üzerinde. Bu makalenin, henüz var olmayan bir başlangıç rakamı vermeden, ışık tuttuğu ikinci yol budur.
Neden bir WASM modülü yapısal olarak konteynerden daha hızlı başlıyor?
Aradaki fark, mutlak anlamda daha hızlı bir çalışma zamanından kaynaklanmıyor; sorgu ile uygulama kodu arasındaki adımların daha kısa yığınından kaynaklanıyor.
Bir kapsayıcıyı başlatmak ana bilgisayar çekirdeğini harekete geçirir: yeni bir süreç oluşturmak, onu izole eden grupları ve ad alanlarını ayarlamak, görüntünün katmanlarını monte etmek ve ardından uygulama çalışma zamanını içeride başlatmak (örneğin, Node.js ve onun V8 motorunun kendilerinin bir başlatma maliyeti vardır). Her adımda sistem çağrıları eklenir ve yerel olarak hiç görülmemiş bir görüntü için daha başlamadan ağ üzerinden indirme yapılır.
WebAssembly modülü, işletim sistemi düzeyinde değil, sanal makine dili düzeyinde yalıtılmıştır. Bir modülün başlatılması, onun doğrusal belleğinin tahsis edilmesi, içe aktarılanların bağlanması, ardından giriş noktasına atlanması anlamına gelir; bunların tümü ana bilgisayar çalışma zamanının önceden başlatılmış süreci dahilindedir. Yeni işlemler yok, görüntü katmanları yok, varsayılan dosya sistemi bağlantıları yok.
Derleme modunun seçimi ek bir değişken ekler. Wasmtime, modül yüklendiğinde Cranelift arka ucu aracılığıyla JIT'e derler veya önceden yerel makine koduna dönüştürülmüş bir .cwasm dosyası üreten wasmtime compile ile önceden derleyebilir. Erken derleme (AOT), derleme adımını isteğin kritik yolundan kaldırır: Bu, tam olarak soğuk başlatmaya duyarlı bir uç mimarisinin etkinleştirmesi gereken kaldıraçtır.
# Aurabase deposundan gerçek alıntı
# WASM Çalışma Zamanı
wasmtime = { version = "43", features = ["async", "cranelift"] }
Bu bir geliştirme değil, üretim bağımlılığıdır: Wasmtime'nin gerçekten Aurabase uç işlevlerinin CLI yolunda çalıştığını doğrular. Ancak herhangi bir gecikme rakamını doğrulamaz ve tarihli bir kıyaslama yayınlanmadığı sürece bu durum geçerli kalır.
Konteynerler ve microVM: en hassas şekilde ölçülen referans
Bu alanda en güçlü kaynak, bir pazarlama blog yazısı değil, bir sektör araştırma makalesidir. AWS tarafından geliştirilen ve özellikle Lambda ve Fargate için kullanılan hafif microVM teknolojisi Firecracker, USENIX NSDI 2020 konferansında Agache ve diğerleri tarafından sunuldu. “Firecracker: Sunucusuz Uygulamalar için Hafif Sanallaştırma” makalesinde.
Bu belge, aynı fiziksel makinede binlerce mikroVM'yi çalıştırma yeteneği ile birlikte, 125 ms'den daha az bir önyükleme süresini ve mikroVM başına 5 MiB'den daha az bir bellek ek yükünü belgelemektedir. Bu, hakemli bir akademik yayından alınan ve o zamandan bu yana sunucusuz izolasyonla ilgili literatürde geniş çapta alıntı yapılan eski bir rakamdır (2020).
Standart bir Docker kapsayıcısı genellikle daha yüksektir: görüntünün boyutuna, indirme ihtiyacına ve yerleşik uygulama çalışma zamanının önyükleme süresine bağlı olarak birkaç yüz milisaniyeden birkaç saniyeye kadar. Firecracker'den farklı olarak burada evrensel olarak alıntı yapılan tek bir rakam yoktur: sonuç, fikir birliğine varmak için tek bir değer için test edilen görüntüye fazlasıyla bağlıdır.
WebAssembly: Fastly, WasmEdge ve akademik araştırma belgesi nedir
Üç kaynak, üç farklı durum: tarihi bir tedarikçi, vakıf yönetimi altındaki bir proje ve bir araştırma makalesi.
Fastly, Compute@Edge'i 2019'da kendi ön derleme WASM derleyicisi ve çalışma zamanı olan Lucet'te başlattı. Bu lansmanda şirket, WASM örnekleme sürelerini bir milisaniyenin altında belgeledi; bu, sektördeki WASM soğuk başlangıç söylemi üzerinde kalıcı bir etkiye sahip olan bir büyüklük sırasıdır. 2021'de Fastly, Lucet'in otonom gelişimini durdurdu ve çabalarını, Cranelift derleme arka ucu bu optimizasyonların bir kısmını devralan Wasmtime'ye yönlendirdi: Wasmtime'nin bugün bu tür yük için bir referans olarak kalmasının nedenlerinden biri de budur.
CNCF yönetimi (başlangıçta SSVM, Second State tarafından desteklenir) altındaki bir WASM çalışma zamanı olan WasmEdge, resmi belgelerinde, uç ve IoT yüklerinde açık bir konumlandırma ile eşdeğer bir Docker konteynerinden önemli ölçüde daha düşük bir başlangıç ve bellek alanı kapladığını iddia eder. Bu, proje yayıncısının kendisi tarafından yayınlanan ve şu şekilde okunacak bir rakamdır: bağımsız bir denetim değil, bir ürün iddiası.
Akademik araştırma tarafında, Faasm (Shillaker & Pietzuch, USENIX ATC 2020, ayrıca ön yayında mevcuttur), WebAssembly izolasyonuna ( Wasmtime değil WAVM aracılığıyla) dayanan durum bilgisi olan sunucusuz bir platform oluşturur çünkü tam olarak bir işlevin konteyner veya VM ile izolasyondan çok daha düşük bir maliyetle başlatılmasına izin verir. Makale özel olarak Wasmtime ile ilgili değildir ancak önceki bölümdeki yapısal argümana bağımsız akademik doğrulama sağlar.
Wasmtime vs Wasmer vs WasmEdge: yayınlanan sayılar neden sıralanmıyor
Bu üç çalışma zamanını yalnızca adlarına göre karşılaştırmak, gerçek değişkeni gizler: seçilen derleme arka ucu, başlatma hızı ile yürütme performansı arasındaki dengeyi kökten değiştirir.
| Wasmtime | Cranelift (varsayılan olarak JIT) + wasmtime derlemesi yoluyla AOT | Bytecode Alliance · açık yönetişim, Fastly, Shopify, Aurabase tarafından kullanılır |
|---|---|---|
| Wasmer | Tercihinize göre Singlepass, Cranelift veya LLVM | Singlepass derleme süresini en aza indirir; LLVM yürütme performansını en üst düzeye çıkarır |
| WasmEdge | Projeye özel AOT derleyicisi | CNCF · konumlandırılmış uç/IoT ve bulut tabanlı |
Wasmer'in en hızlı derleme arka ucu olan Singlepass, tam olarak ekibinin soğuk başlatmayı kararlı durum yürütme performansının farklı bir ekseni olarak tanımlaması nedeniyle var olur: Singlepass'ta derlenen bir modül, LLVM'de derlenen aynı modüle göre daha hızlı başlar, ancak yoğun yük sırasında daha yavaş çalışır. Bu kabul edilmiş bir uzlaşmadır, gizli bir kusur değil.
Wasmer, WASM topluluğunda kullanılan metodoloji ve test edilen senaryoların karşılaştırılabilirliği konusunda tartışmalara yol açan bir uygulama olan Wasmtime ile kendi performans karşılaştırmalarını yayınladı. Bu bir kötü niyet suçlaması değil, yapısal bir hatırlatmadır. Bir çalışma zamanı düzenleyicisinin kazandığı senaryoyu yayınlama konusunda çıkarı vardır; bu, tek bir sayı üzerinden mimari seçimine karar vermeden önce bağımsız doğrulamayı çok daha yararlı hale getirir.
Karşılaştırmalı tablo: her kaynağın neyi belgelediği ve neyi belgelemediği
| Firecracker (AWS) | < 125 ms başlangıç, < 5 MiB genel gider Hakemli araştırma makalesi | Agache ve diğerleri, USENIX NSDI 2020 |
|---|---|---|
| Lucet → Wasmtime (Fastly) | Milisaniye (2019) Tedarikçi rakamına göre örnekleme, burada çoğaltılmamıştır | Compute@Edge Duyurusu, Fastly |
| WasmEdge | DockerPublisher ürün iddiasına göre daha küçük başlangıç ve bellek alanı | Resmi WasmEdge belgeleri (CNCF) |
| Faazm (arama) | WASM yalıtımının başlatılması, Wasmtime yerine WAVM kullanan bir konteynerden çok daha ucuzdur | Shillaker & Pietzuch, USENIX ATC 2020 |
| Standart Docker konteyneri | Yüzlerce ms ila birkaç saniye Tek bir fikir birliği numarası yok | Geniş çapta belgelenmiş davranış |
Bu beş satır tek bir sınıflandırma olarak okunmaz: farklı metodolojilerden, tarihlerden ve çalışma zamanı nesillerinden gelirler. Bu tür WASM kıyaslamasının güvenilirliğine ilişkin daha derinlemesine bir metodolojik eleştiri için, WebAssembly kıyaslamalarının sınırları hakkındaki makalemiz, her kaynağın somut olarak iddia ettiği şeye odaklanmaya devam eden mevcut karşılaştırmanın ötesine geçer.
Bu boşluk, uç mimari seçimi açısından gerçekte neyi değiştiriyor?
WASM soğuk başlatma avantajı, tüm yüklerde eşit olarak değil, ilk isteğin gecikmesine en duyarlı yüklerde en fazla dikkate alınır.
Özellikle çok düzensiz kenar trafiğine (ani patlamalar ve ardından sessizlikler), çeşitli istekler arasında paylaşılan konteyner başına izolasyon yerine istek başına izolasyona ve sıcak havuzu kalıcı olarak tutmak yerine aslında iki zirve arasında sıfır örneğe inen bir altyapıya ağırlık verir. Örneklerin yine de sıcak kaldığı istikrarlı ve öngörülebilir bir yükte, soğuk başlatma aralığı yapısal olarak daha az önemlidir.
WebAssembly ayrıca soğuk başlangıçtan farklı kısıtlamaları da korur: dosya sistemine veya ağa erişim, çalışma zamanlarına ve sürümlerine bağlı olarak hala gelişmekte olan bir arayüz olan WASI üzerinden geçer ve hızlı bir şekilde başlamak üzere derlenen bir modül (örneğin, Wasmer tarafında Tek geçiş), ağır yük altında kurulduğunda mutlaka en hızlısı olmayabilir. Soğuk başlatma ve en yüksek yürütme performansı iki ayrı eksen olarak kalır; aynı derleme profilinde aynı anda nadiren optimaldir.
Bu kritere göre uç mimarisi seçimini değerlendirmek için herhangi bir tedarikçiye sorulacak üç somut soru Aurabase içeriyordu: tam olarak hangi çalışma zamanının kullanıldığı, hangi derleme arka ucunun (JIT veya AOT) ve gelişmiş soğuk başlangıç rakamının bağımsız bir üçüncü taraf tarafından mı yoksa yalnızca çalışma zamanı yayıncısının kendisi tarafından mı ölçüldüğü.
SSS
WebAssembly soğuk başlatma hala Docker kapsayıcısından daha hızlı mı?+
Neden Wasmtime, Wasmer ve WasmEdge farklı başlangıç numaralarını duyuruyor?+
AOT (önceden) derlemesi soğuk başlangıç için gerçekte neyi değiştirir?+
Aurabase, uç WASM işlevleri için bir soğuk başlangıç kıyaslaması yayınladı mı?+
WASM çalışma zamanının soğuk başlatılması ile sunucusuz Postgres veritabanının soğuk başlatılması arasındaki fark nedir?+
WASM çalışma zamanı editörlerinin kendileri tarafından yayınlanan soğuk başlangıç kıyaslamalarına güvenebilir miyiz?+
Aynı sorunun veritabanı katmanı için sunucusuz Postgres soğuk başlatma hakkındaki makalemize bakın.