Cloudflare ha liberato circa 100 terabyte di RAM attraverso la sua flotta di server globale ridisegnando il layout di memoria delle sue voci cache DNS, specificamente per il 1.1.1.1 DNS.
One Byte Costs 250 Gigabytes
La leva è scala pura: Cloudflare detiene più di 250 miliardi di entrate DNS nella cache in qualsiasi momento. Quindi anche un solo byte sprecato per voce costa oltre 250 gigabyte di memoria della flotta. Cinque ottimizzazioni di livello Rust tagliano l’impronta di memoria per voce del 56 per cento.
Affettazioni fisse Invece di contenitori coltivabili
- Sostituire i contenitori Vec e String coltivabili di Rust con fette in scatola a dimensione fissa risparmia oltre 15 TB da solo.
- I tre elenchi di record in ogni risposta DNS sono crollati in un buffer, indirizzati tramite offset a 2 byte.
- I dati di registrazione vengono memorizzati come byte crude prefissate in formato filo.
Più veloce, non più lento
I risparmi non sono arrivati al costo della velocità. Grazie a un numero minore di allocazioni e una migliore localizzazione della memoria, inserire il throughput è aumentato del 43 per cento mentre la latenza di ricerca è scesa del 19 per cento.
Quellen: Golem.de.
