Return to search

Design and evaluation of an inter-core QUIC connection migration approach for intra-server load balancing / Utformning och utvärdering av en QUIC migrationsmetod mellan kärnor för internbalansbelastning

With the emergence of novel cloud applications and their critical latency demand [1], Quick UDP Internet Connection (QUIC) [2] was proposed as a new transport protocol that is promising to reduce the connection establishment overhead while providing security properties similar to Transport Layer Security (TLS) [3]. However, without an efficient task scheduling mechanism, the high cost for encryption and decryption in QUIC can easily lead to load imbalance among multiple Central Processing Unit (CPU) cores and thus cause a high tail latency. In this paper, we proposed a QUIC connection inter-core migration scheme that can dynamically dispatch QUIC connections among CPU cores while keeping the service continuity. We emulated a scenario where the traffic load on two CPU cores is not even and tried to migrate connections from an overloaded CPU to another idle one. The results showed that the load imbalance can be reduced and both of the two CPU cores can be efficiently utilized. Moreover, the throughput can be improved by around 15% with a set of proper parameters thanks to the inter-core connection migration scheme. It was also revealed that the overhead introduced by the connection inter-core migration mechanism is relatively low when applying the migration to a large connection. / Med uppkomsten av nya molnprogram och deras kritiska latens efterfrågan [1], QUIC [2] föreslogs som ett nytt transportprotokoll som lovar att minska anslutningen etableringskostnader samtidigt som de tillhandahåller säkerhetsfastigheter som liknar TLS [3]. Dock utan en effektiv uppgift schemaläggningsmekanism, den höga kostnaden för kryptering och dekryptering i QUIC kan enkelt leda till obalans mellan flera CPU kärnor och orsakar därför en hög svanslatens. I detta dokument föreslog vi a QUIC-anslutning mellan kärnmigrationsschema som dynamiskt kan skickas SNABBA anslutningar mellan CPU kärnor samtidigt som servicekontinuiteten bibehålls. Vi emulerat ett scenario där trafikbelastningen på två CPU kärnor inte är jämn och försökte migrera anslutningar från en överbelastad CPU till en annan inaktiv. De resultaten visade att belastningsobalansen kan reduceras och båda de två CPU: erna kärnor kan utnyttjas effektivt. Dessutom kan genomströmningen förbättras med cirka 15% med en uppsättning korrekta parametrar tack vare anslutningen mellan kärnor migrationsschema. Det avslöjades också att de omkostnader som infördes av anslutning mellan kärnmigrationsmekanismen är relativt låg vid ansökan migreringen till en stor anslutning.

Identiferoai:union.ndltd.org:UPSALLA1/oai:DiVA.org:kth-305452
Date January 2021
CreatorsWang, Zhe
PublisherKTH, Skolan för elektroteknik och datavetenskap (EECS)
Source SetsDiVA Archive at Upsalla University
LanguageEnglish
Detected LanguageEnglish
TypeStudent thesis, info:eu-repo/semantics/bachelorThesis, text
Formatapplication/pdf
Rightsinfo:eu-repo/semantics/openAccess
RelationTRITA-EECS-EX ; 2021:737

Page generated in 0.0064 seconds