Cloudflare spart 100 Terabyte Speicher im DNS-Cache von 1.1.1.1

Cloudflare betreibt Big Pineapple, die Plattform hinter dem DNS-Dienst 1.1.1.1 sowie Gateway DNS, DNS Firewall und weiteren Diensten des Unternehmens. Das System speichert zu jedem Zeitpunkt über 250 Milliarden Einträge in seinem Cache, dem Zwischenspeicher, der es ermöglicht, Anfragen zur Übersetzung einer Internetadresse in eine IP-Adresse schneller zu beantworten. Bei dieser Grössenordnung kostet bereits ein verschwendetes Byte pro Eintrag mehr als 250 Gigabyte Speicher über die gesamte Infrastruktur hinweg.

Die Ingenieure von Cloudflare haben fünf Änderungen daran vorgenommen, wie die Cache-Einträge im Speicher abgelegt werden. Das Ergebnis ist eine Reduktion des von jedem einzelnen Eintrag belegten Platzes um über 50 Prozent. Über die gesamte Infrastruktur des Unternehmens hinweg haben die Änderungen rund 100 Terabyte Speicher freigesetzt, eine Menge, die dem Arbeitsspeicher von 130 der neuesten Server des Unternehmens der Generation 13 entspricht.

Die Änderungen betrafen nicht nur den belegten Speicherplatz. Die Geschwindigkeit beim Einfügen neuer Einträge in den Cache stieg um 43 Prozent, während die Zeit für deren Abruf um 19 Prozent sank.

Wie der Cache funktioniert

Jeder Cache-Eintrag besteht aus einem Schlüssel, der die Anfrage identifiziert, und einem Wert, der die DNS-Antwort mit den zugehörigen Daten sowie Metadaten wie Erstellungszeitpunkt und Gültigkeitsdauer enthält. Mehrere Felder dieser Strukturen verwendeten Datentypen mit unnötigem Platzbedarf, sobald der Eintrag gespeichert war.

Zu den bedeutendsten Änderungen gehört der Ersatz einiger Standard-Datenstrukturen der Programmiersprache Rust durch kompaktere Varianten, die keinen Platz für ein künftiges Wachstum reservieren, da ein Eintrag nach dem Speichern nicht mehr verändert wird. Eine weitere Änderung betrifft die Art, wie Domainnamen gespeichert werden: In den meisten Fällen stimmt der Domainname in der Antwort mit jenem der ursprünglichen Anfrage überein, weshalb er nicht ein zweites Mal gespeichert werden muss.

Schliesslich haben die Ingenieure geändert, wie die einzelnen DNS-Records gespeichert werden. Statt eines Formats mit zu grosszügigen festen Reserven kommt nun eines zum Einsatz, das nur den tatsächlich benötigten Platz belegt. Das hat auch die Lesezeit der Daten verkürzt, dank eines direkteren Speicherzugriffs.

Cloudflare hat die Wirkung der Änderungen überprüft, indem es den tatsächlich von den eigenen Servern genutzten Speicher während der Einführung des Systems im Produktivbetrieb gemessen und so die Testergebnisse bestätigt hat.