W tym artykule zebrano możliwe do zidentyfikowania źródła zewnętrzne publikujące na temat zimnego startu WebAssembly w porównaniu z kontenerami: artykuł przedstawiony na USENIX NSDI, oficjalna dokumentacja z Fastly, WasmEdge i Wasmer oraz akademicki projekt badawczy dotyczący izolacji bezserwerowej. Nie uwzględniono żadnych figurek Aurabase. Nasze funkcje brzegowe działają dobrze na Wasmtime, co zostało zweryfikowane w repozytorium, ale jak dotąd nie opublikowano żadnego testu porównawczego zimnego startu specyficznego dla naszej infrastruktury, rozróżnienie opisano szczegółowo poniżej. Informacje na temat ogólnej metody benchmarkingu stosowanej w innym miejscu tego bloga można znaleźć w naszym artykule filarowym na temat metodologii benchmarkingu.
Najważniejsze
- Artykuł AWS Firecracker (Agache i in., USENIX NSDI 2020) dokumentuje uruchomienie mikroVM poniżej 125 ms i obciążenie pamięci poniżej 5 MiB: najdokładniej określone ilościowo odniesienie w tym artykule.
- Firma Fastly udokumentowała czasy tworzenia instancji WASM poniżej milisekundy w przypadku środowiska wykonawczego AOT Lucet (którego optymalizacje zostały następnie połączone w Wasmtime) w 2019 r. Jest to liczba opublikowana przez dostawcę, która nigdy nie była reprodukowana niezależnie w źródłach, z których korzystano.
- WasmEdge, projekt zarządzany przez CNCF, w swojej oficjalnej dokumentacji twierdzi, że wymaga znacznie mniejszego zużycia pamięci przy uruchamianiu i pamięci niż równoważny kontener Docker, bez niezależnych środków zaradczych cytowanych w tym artykule.
- Wasmtime, Wasmer i WasmEdge nie kompilują się w ten sam sposób (Cranelift, Singlepass/Cranelift/LLVM do wyboru, własny kompilator AOT): ten wybór zaplecza wyjaśnia znaczną część luki między opublikowanymi danymi, a nie tylko czas działania jako taki.
- Aurabase wykorzystuje Wasmtime w produkcji do swoich funkcji brzegowych, zweryfikowanych w
aura-functions/Cargo.toml, ale jak dotąd nie publikuje żadnych danych dotyczących zimnego startu zmierzonych we własnej infrastrukturze.
Źródła zewnętrzne cytowane poniżej można rozpoznać po tytule, autorze lub wydawcy oraz dacie publikacji. Badanie to opiera się na uznanych i szeroko udokumentowanych publikacjach w WebAssembly i ekosystemie bezserwerowym, a nie na bieżącym zapytaniu o ich strony w momencie pisania. Tam, gdzie nie można było potwierdzić dokładnej liczby z wystarczającą pewnością, w tym artykule posłużono się rządem wielkości, a nie dokładną wartością, i stwierdzono to wyraźnie.
Dlaczego zimny start WASM zajmuje tak dużo miejsca w debacie bezserwerowej
Zimny start odnosi się do dodatkowego opóźnienia wymaganego przez żądanie, gdy środowisko wykonawcze musi zostać zainicjowane przed uruchomieniem kodu aplikacji. W przypadku klasycznej funkcji brzegowej lub funkcji bezserwerowej nie jest to przypadek marginalny: platforma, która ogranicza liczbę wystąpień pomiędzy dwoma szczytami ruchu lub rozdziela swoje wykonanie na dziesiątki geograficznie rozproszonych węzłów brzegowych, płaci ten koszt trwale, a nie tylko przy pierwszym wdrożeniu.
Temat nabrał niemal symbolicznego znaczenia w ekosystemie WASM od czasu, gdy w marcu 2019 roku na Twitterze pojawiło się zdanie Solomona Hykesa, współzałożyciela Dockera: „Gdyby WASM+WASI istniało w 2008 roku, nie musielibyśmy tworzyć Dockera. Takie to ważne. WebAssembly na serwerze to przyszłość informatyki. » To opinia uznanego praktyka, a nie pomiar. Wyjaśnia dlaczego temat fascynuje, nie zastępuje postaci źródłowej.
Aurabase oferuje dwie ścieżki dla swoich funkcji brzegowych: edytor Studio, który uruchamia kod w środowisku wykonawczym Deno, jak udokumentowaliśmy w naszym przewodniku migracji Supabase oraz aura functions deployCLI, którego celem jest osobna ścieżka dla funkcji napisanych w Rust i skompilowanych do WASM Wasmtime. To właśnie tę drugą ścieżkę niniejszy artykuł rzuca światło na tę drugą ścieżkę, nie podając jej jednak danych na temat zimnego startu, które jeszcze nie istnieją.
Dlaczego moduł WASM uruchamia się strukturalnie szybciej niż kontener
Różnica nie wynika z szybszego czasu działania w wartościach bezwzględnych: wynika z krótszego stosu kroków między zapytaniem a kodem aplikacji.
Uruchomienie kontenera mobilizuje jądro hosta: utworzenie nowego procesu, skonfigurowanie grup c i przestrzeni nazw, które go izolują, zamontowanie warstw obrazu, a następnie uruchomienie wewnątrz środowiska wykonawczego aplikacji (na przykład Node.js i jego silnik V8 mają koszt inicjalizacji). Każdy krok dodaje wywołania systemowe, a w przypadku obrazu nigdy nie widzianego lokalnie, pobieranie sieciowe jeszcze przed jego rozpoczęciem.
Moduł WebAssembly jest izolowany na poziomie języka maszyny wirtualnej, a nie na poziomie systemu operacyjnego. Utworzenie instancji modułu oznacza przydzielenie jego pamięci liniowej, powiązanie importów, a następnie przejście do punktu wejścia, a wszystko to w ramach już rozpoczętego procesu środowiska wykonawczego hosta. Żadnych nowych procesów, żadnych warstw obrazu, żadnych domyślnych montowań systemu plików.
Wybór trybu kompilacji dodaje dodatkową zmienną. Wasmtime kompiluje się do JIT za pośrednictwem backendu Cranelift podczas ładowania modułu lub może go wcześniej skompilować za pomocą wasmtime compile, co powoduje utworzenie pliku .cwasm już przekształconego w natywny kod maszynowy. Wczesna kompilacja (AOT) usuwa etap kompilacji ze ścieżki krytycznej żądania: jest to dokładnie dźwignia, którą musi aktywować architektura brzegowa wrażliwa na zimny start.
# Rzeczywisty ekstrakt z repozytorium Aurabase
# WASM Środowisko wykonawcze
wasmtime = { version = "43", features = ["async", "cranelift"] }
Jest to zależność produkcyjna, a nie programistyczna: potwierdza, że Wasmtime faktycznie działa na ścieżce CLI funkcji brzegowych Aurabase. Nie potwierdza jednak żadnych danych dotyczących opóźnień, co pozostaje prawdą, dopóki nie zostanie opublikowany żaden datowany test porównawczy.
Kontenery i microVM: najdokładniej określone ilościowo odniesienie
W tym obszarze najsilniejszym źródłem jest artykuł z badań branżowych, a nie wpis na blogu marketingowym. Firecracker, lekka technologia microVM opracowana przez AWS i wykorzystywana zwłaszcza w Lambda i Fargate, została zaprezentowana na konferencji USENIX NSDI 2020 przez Agache i in. w artykule „Firecracker: Lekka wirtualizacja dla aplikacji bezserwerowych”.
W tym artykule udokumentowano czas rozruchu krótszy niż 125 ms i obciążenie pamięci mniejsze niż 5 MiB na mikroVM, z możliwością uruchomienia tysięcy mikroVM na tej samej maszynie fizycznej. To dane datowane (2020 r.) pochodzące z recenzowanej publikacji akademickiej i od tego czasu szeroko cytowane w literaturze na temat izolacji bezserwerowej.
Standardowy kontener Dockera jest na ogół dłuższy: od kilkuset milisekund do kilku sekund w zależności od rozmiaru obrazu, konieczności jego pobrania i czasu uruchamiania wbudowanej aplikacji. W przeciwieństwie do Firecracker nie ma tu jednej powszechnie cytowanej liczby: wynik w zbyt dużym stopniu zależy od obrazu testowanego pod kątem pojedynczej wartości, aby osiągnąć konsensus.
WebAssembly: co Fastly, WasmEdge i dokument badań akademickich
Trzy źródła, trzy różne statusy: dostawca historyczny, projekt objęty nadzorem fundacji i artykuł badawczy.
Fastly uruchomił Compute@Edge w 2019 roku na Lucet, własnym kompilatorze i środowisku wykonawczym WASM do wstępnej kompilacji. W momencie wprowadzenia na rynek firma udokumentowała czasy tworzenia WASM poniżej milisekundy, co stanowi rząd wielkości, który wywarł trwały wpływ na dyskurs dotyczący zimnego startu WASM w branży. W 2021 roku firma Fastly zaprzestała autonomicznego rozwoju Luceta i przekierowała swoje wysiłki w stronę Wasmtime, którego backend kompilacji Cranelift odziedziczył część tych optymalizacji: jest to jeden z powodów, dla których Wasmtime pozostaje dziś punktem odniesienia dla tego typu ładunków.
WasmEdge, środowisko wykonawcze WASM zarządzane przez CNCF (pierwotnie SSVM, obsługiwane przez Second State), twierdzi w swojej oficjalnej dokumentacji znacznie mniejsze zużycie pamięci podczas uruchamiania i pamięci niż równoważny kontener Docker, z wyraźnym pozycjonowaniem na obciążeniach brzegowych i IoT. Są to dane opublikowane przez samego wydawcę projektu i należy je czytać jako oświadczenie dotyczące produktu, a nie niezależny audyt.
Jeśli chodzi o badania akademickie, Faasm (Shillaker & Pietzuch, USENIX ATC 2020, również dostępny w wersji przed publikacją) buduje stanową platformę bezserwerową opartą na izolacji WebAssembly (przez WAVM, a nie Wasmtime) właśnie dlatego, że umożliwia utworzenie instancji funkcji przy znacznie niższym koszcie niż izolacja przez kontener lub maszynę wirtualną. Artykuł nie dotyczy konkretnie Wasmtime, ale zapewnia niezależną akademicką walidację argumentu strukturalnego przedstawionego w poprzedniej sekcji.
Wasmtime vs Wasmer vs WasmEdge: dlaczego opublikowane liczby się nie zgadzają
Porównanie tych trzech środowisk wykonawczych tylko z nazwy ukrywa prawdziwą zmienną: wybrany backend kompilacji, który radykalnie zmienia równowagę pomiędzy szybkością uruchamiania a wydajnością wykonywania.
| Wasmtime | Cranelift (domyślnie JIT) + AOT poprzez kompilację wasmtime | Bytecode Alliance · otwarte zarządzanie, używane przez Fastly, Shopify, Aurabase |
|---|---|---|
| Wasmer | Singlepass, Cranelift lub LLVM do wyboru | Singlepass minimalizuje czas kompilacji; LLVM maksymalizuje wydajność wykonania |
| WasmEdge | Kompilator AOT specyficzny dla projektu | CNCF · pozycjonowana krawędź/IoT i natywna chmura |
Singlepass, najszybszy backend kompilacji Wasmer, istnieje właśnie dlatego, że jego zespół zidentyfikował zimny start jako odrębną oś wydajności wykonywania w stanie ustalonym: moduł skompilowany w Singlepass uruchamia się szybciej, ale działa wolniej podczas szczytowego obciążenia niż ten sam moduł skompilowany w LLVM. To przyjęty kompromis, a nie ukryta wada.
Wasmer opublikował własne porównania wydajności z Wasmtime, praktyką, która wywołała debaty w społeczności WASM na temat zastosowanej metodologii i porównywalności testowanych scenariuszy. To nie jest oskarżenie o złą wiarę: to przypomnienie strukturalne. Edytor wykonawczy ma żywotny interes w opublikowaniu zwycięskiego scenariusza, co sprawia, że niezależna weryfikacja staje się jeszcze bardziej użyteczna przed podjęciem decyzji o wyborze architektury na podstawie pojedynczego numeru.
Tabela porównawcza: co dokumentuje każde źródło, a czego nie dokumentuje
| Firecracker (AWS) | Uruchamianie < 125 ms, obciążenie < 5 MiB Recenzowany artykuł badawczy | Agache i wsp., USENIX NSDI 2020 |
|---|---|---|
| Lucet → Wasmtime (Fastly) | Wystąpienie poniżej milisekundy (2019 r.) Dane dostawcy, nie reprodukowane tutaj | Ogłaszamy Compute@Edge, Fastly |
| WasmEdge | Mniejsze uruchomienie i mniejsze zużycie pamięci w porównaniu z twierdzeniem dotyczącym produktu DockerPublisher | Oficjalna dokumentacja WasmEdge (CNCF) |
| Faasm (szukaj) | Izolacja WASM jest znacznie tańsza w tworzeniu instancji niż kontener. Używa WAVM, a nie Wasmtime | Shillaker i Pietzuch, USENIX ATC 2020 |
| Standardowy kontener Docker | Setki ms do kilku sekund Brak jednej liczby konsensusowej | Szeroko udokumentowane zachowanie |
Te pięć wierszy nie jest odczytywane jako pojedyncza klasyfikacja: pochodzą one z różnych metodologii, dat i generacji środowiska wykonawczego. Aby uzyskać bardziej dogłębną metodologiczną krytykę wiarygodności tego typu testu porównawczego WASM, nasz artykuł na temat ograniczeń testów porównawczych WebAssembly idzie dalej niż obecne porównanie, które pozostaje skupione na tym, co konkretnie twierdzi każde źródło.
Co ta luka naprawdę zmienia w przypadku wyboru architektury brzegowej
Zaletą WASM zimnego startu jest to, że liczy się najbardziej w przypadku obciążeń najbardziej wrażliwych na opóźnienie pierwszego żądania, a nie w równym stopniu we wszystkich obciążeniach.
Ma to szczególne znaczenie w przypadku bardzo nieregularnego ruchu brzegowego (serii, po których następują cisze), izolacji na żądanie, a nie na kontener współdzielony pomiędzy kilkoma żądaniami, oraz na infrastrukturze, która w rzeczywistości ogranicza się do zera wystąpień między dwoma szczytami, zamiast stale utrzymywać gorącą pulę. Przy stabilnym i przewidywalnym obciążeniu, gdzie instancje i tak pozostają gorące, przerwa w zimnym rozruchu strukturalnie ma mniejsze znaczenie.
WebAssembly utrzymuje również ograniczenia różniące się od zimnego startu: dostęp do systemu plików lub sieci przechodzi przez WASI, interfejs wciąż ewoluuje w zależności od środowisk wykonawczych i ich wersji, a moduł skompilowany tak, aby uruchamiał się szybko (na przykład Singlepass po stronie Wasmer) niekoniecznie jest najszybszy po ustanowieniu przy dużym obciążeniu. Wydajność zimnego startu i szczytowa wydajność to dwie odrębne osie, rzadko optymalne jednocześnie w tym samym profilu kompilacji.
Aby ocenić wybór architektury brzegowej na podstawie tego kryterium, trzy konkretne pytania, które należy zadać dowolnemu dostawcy, Aurabase obejmowały: jakie dokładnie środowisko wykonawcze jest używane, jakie zaplecze kompilacji (JIT lub AOT) i czy zaawansowane wartości zimnego startu zostały zmierzone przez niezależną stronę trzecią, czy tylko przez samego wydawcę środowiska wykonawczego.
Często zadawane pytania
Czy zimny start WebAssembly jest nadal szybszy niż kontener Docker?+
Dlaczego Wasmtime, Wasmer i WasmEdge ogłaszają różne numery startowe?+
Co właściwie zmienia kompilacja AOT (z wyprzedzeniem) podczas zimnego startu?+
Czy Aurabase opublikowało test porównawczy zimnego startu dla swoich funkcji brzegowych WASM?+
Jaka jest różnica między zimnym startem środowiska wykonawczego WASM a bezserwerową bazą danych Postgres?+
Czy możemy ufać testom zimnego startu opublikowanym przez samych redaktorów wykonawczych WASM?+
Aby zapoznać się z warstwą bazy danych dotyczącą tego samego problemu, zobacz nasz artykuł na temat bezserwerowego zimnego startu Postgres.