KI-Cloud-Speicher braucht Tiering, nicht nur Flash
KI-Cloud-Speicher, der auf GPUs aufbaut, stößt auf ein Missverhältnis: Der schnellste Speicher, Flash, wird für Aufgaben verwendet, die seine Geschwindigkeit nicht benötigen, und das drängt Daten in Hyperscaler-Plattformen mit teuren Exit-Gebühren. Backblaze-Produktmarketingdirektor David Johnson legt das Problem in einem Beitrag vom 24. September 2026 dar und argumentiert, dass Neoclouds, die GPU-fokussierten Cloud-Anbieter, die gesamte Kundenbeziehung behalten können, wenn sie eine Tiered-Storage-Architektur übernehmen. Neoclouds sind darauf ausgerichtet, GPUs zu vermieten, die Prozessoren, die KI-Modelle trainieren. GPUs können nur so schnell laufen, wie die Daten hereinkommen.
Johnson erklärt, dass die Infrastruktur einer Neocloud auf Flash aufgebaut ist. Flash-Speicher ist die Art von sehr schnellem Solid-State-Speicher, der für aktives Training verwendet wird; er liefert Daten mit extremer Geschwindigkeit und geringer Latenz, also sehr wenig Verzögerung. Aber die Speicheraufgaben rund um das aktive Training – Checkpoints speichern, Datensätze ablegen, fertige Modelle aufbewahren – benötigen weder Flash-Geschwindigkeit noch Flash-Preise. Für Speicher, der kein Flash braucht, verweisen Neoclouds Kunden daher oft auf Hyperscaler-Objektspeicher. Das ist billiger, funktioniert und hält die Neocloud auf ihr Kerngeschäft mit GPUs fokussiert. Das Problem ist die Datengravitation: Je mehr Daten irgendwo gespeichert sind, desto schwieriger wird es, sie zu verlassen. Hyperscaler verschärfen das absichtlich. Sie lassen dich Daten kostenlos hochladen, verlangen aber unerschwinglich hohe Egress-Gebühren, also Gebühren für das Herunterladen oder Verschieben von Daten. Sobald deine Daten auf der Plattform eines Hyperscalers verankert sind, steigen die Kosten für einen Wechsel immer weiter. Und wo deine Daten liegen, dort kaufst du tendenziell auch mehr Dienste. Während die Neocloud also weiterhin für GPU-Computing bezahlt wird, übernimmt der Hyperscaler still und leise das gesamte Konto.
Um zu zeigen, warum Flash allein nicht die Antwort ist, geht Johnson jede Phase des KI-Lebenszyklus durch. Zuerst die Datenaufnahme: Rohdatensätze müssen bereinigt, beschriftet und vorbereitet werden. Diese Phase benötigt Speicher mit hoher Kapazität, der große Datenmengen effizient bewegen kann, aber kein Flash. Aktives Training ist die Phase, in der Flash seinen Platz verdient. Daten durchlaufen mehrere Speicherstufen, bevor sie die GPU erreichen, aber im letzten Schritt muss das Modell sie kontinuierlich und mit sehr hoher Geschwindigkeit geliefert bekommen. Nur Flash ist schnell genug, um Tausende von GPUs ohne Unterbrechung am Laufen zu halten. Checkpointing läuft während des gesamten Trainings. Da KI-Training ein synchroner Prozess ist, bei dem jeder Knoten im Cluster im Gleichschritt arbeitet, kann ein einziger Komponentenausfall den gesamten Trainingslauf stoppen. In der Größenordnung eines großen modernen Clusters sind Ausfälle nicht selten; die Ausfallrate steigt exponentiell mit der Clustergröße. Checkpoints sind häufige Schnappschüsse des aktuellen Modellzustands, die es ermöglichen, das Training an der Stelle fortzusetzen, an der es unterbrochen wurde. Im großen Maßstab muss ein Checkpoint möglicherweise 15 TB Daten in unter fünf Sekunden erfassen, alle paar Minuten rund um die Uhr wiederholt. Diese Phase benötigt Speicher, der schnell genug ist, um mitzuhalten, und zuverlässig genug, dass nichts verloren geht. Nach Abschluss des Trainings wandern die Ergebnisse – Modellgewichte, Logs und Metadaten – in die Langzeitspeicherung. Feinabstimmungsexperimente und zusätzliche Trainingsläufe fügen im Laufe der Zeit mehr hinzu. Diese Phase erfordert Kapazität und Haltbarkeit, nicht Geschwindigkeit. Schließlich erfordert Inferenz, das Bereitstellen eines Modells, wiederholten Zugriff auf Modellgewichte bei Bedarf. Die Datenmengen sind weit geringer als beim Training, und obwohl latenzempfindliche Bereitstellungen weiterhin von Flash profitieren können, sind die Speicheranforderungen weit weniger intensiv.
Flash-Speicher ist laut Johnson nur für eine dieser Phasen zweckgebaut: aktives Training. In jeder anderen Phase wird eine kostengünstige Speicherstufe mit hoher Kapazität benötigt, genau das, was Neoclouds derzeit an Hyperscaler auslagern. NVIDIAs zertifiziertes Speicherprogramm validiert Speicherlösungen getrennt für jede dieser Phasen und erkennt an, dass eine einzige Speicherarchitektur nicht alle gut bedienen kann. Flash ist teuer, weil es für Geschwindigkeit gebaut ist. Aber du zahlst für diese Geschwindigkeit, ob du sie brauchst oder nicht. Flash zum Speichern von Datensätzen, Checkpoints und fertigen Modellartefakten zu verwenden, ist wie alle deine Post per Express zu versenden, wenn das meiste auch auf dem Landweg gehen könnte; du zahlst einen Aufpreis für eine Fähigkeit, die du nicht brauchst. Neben den Kosten gibt es ein zweites Problem. Flash, das mit Checkpoints und Datensätzen belegt ist, steht für GPUs nicht zur Verfügung, und GPUs sind das, was Neoclouds verkaufen. Jedes Terabyte Flash, das am falschen Ort verwendet wird, ist Kapazität, die dem Kernprodukt entzogen wird. Die Wirtschaftlichkeit hat schon immer einen Tiered-Ansatz begünstigt: schneller Speicher, wo Geschwindigkeit gebraucht wird, billigerer Speicher mit hoher Kapazität überall sonst. Google, Meta und Microsoft betreiben seit Jahren Tiered-Storage-Architekturen, und Metas Engineering-Team beschreibt seinen Ansatz in vier expliziten Stufen, die jeweils für die Aufgabe ausgewählt sind, die sie am besten erfüllen. Aber der Aufbau einer vollständigen Speicherstufe unterhalb von Flash ist ein erhebliches Unterfangen, und die meisten Neoclouds sind auf ihr GPU-Kerngeschäft fokussiert geblieben. Da die SSD-Preise in weniger als einem Jahr um 257 % gestiegen sind, ist diese Lücke zu teuer geworden, um sie zu ignorieren.
Die Lösung besteht darin, den Speicher an die Arbeitslast anzupassen. Für aktives Training bleibt Flash die Antwort. VAST, WEKA und DDN bedienen diese Stufe mit schnellem, GPU-nahem Speicher, der das Training mit voller Geschwindigkeit am Laufen hält. Für alles andere kann Backblazes B2 Neo die Lücke füllen. Datensätze liegen dort vor Trainingsbeginn. Checkpoints werden während des Trainings kontinuierlich dorthin geschrieben. Fertige Modellgewichte und Aufzeichnungen sammeln sich dort im Laufe der Zeit an. Der Speicher ist schnell und langlebig, aber für Kapazitäts-Workloads statt Flash-Workloads bepreist. B2 Neo verbindet sich direkt mit der heißen Stufe, sodass Daten zwischen ihnen ohne Umweg über einen Hyperscaler bewegt werden. Die Neocloud muss davon nichts selbst bauen. B2 Neo ist als White-Label-Produkt verfügbar und wird unter der eigenen Marke der Neocloud bereitgestellt. Der Kunde sieht nur eine nahtlose Plattform; seine Daten bleiben von rohen Datensätzen bis zum bereitgestellten Modell auf der Infrastruktur der Neocloud und berühren nie einen Hyperscaler.
Flash ist der richtige Speicher für eine Phase des KI-Lebenszyklus. In jeder anderen Phase ist es ein teures Werkzeug für eine Aufgabe, die es nicht braucht. Neoclouds, die nur die aktive Trainingsstufe bedienen, hinterlassen eine Lücke, und Kunden füllen diese Lücke oft, indem sie ihre Daten an einen Hyperscaler senden. Einmal dort, halten Egress-Gebühren sie dort fest. Die Neocloud übergibt am Ende die gesamte Kundenbeziehung an denjenigen, der die Daten hält. Die Lücke zu schließen, erfordert keinen Neuaufbau. Die Tiered-Architektur, die Google und Meta im großen Maßstab betreiben, steht Neoclouds heute als White-Label-Infrastruktur zur Verfügung. In diesem Markt ist der GPU-Vertrag erst der Anfang. Die Daten zu behalten, heißt den Kunden zu behalten. Für Organisationen, die vor ähnlichen Entscheidungen zu Datengravitation und Speicher-Tiering stehen, bietet AEU Data verwalteten Objektspeicher und verschlüsselte automatisierte Backups, die in die günstigere Kapazitätsstufe passen, ohne Bindung durch Exit-Gebühren, und hilft Teams, die Kontrolle über ihre eigenen Daten zu behalten.