I burst di AI storage superano il capacity planning tradizionale
Il traffico di AI storage può arrivare in burst concentrati che mettono alla prova reti e sistemi di storage progettati per una crescita più regolare. Backblaze afferma che le misurazioni della propria infrastruttura mostrano come il costo per terabyte sia solo una parte del problema. Il throughput, ossia la quantità di dati trasferita in un determinato periodo, e la latency, ossia il ritardo prima che un trasferimento inizi o si completi, possono determinare se costose risorse di calcolo rimangano produttive oppure inattive.
L'azienda pubblica tre dataset trimestrali basati sulla propria infrastruttura e sui propri test. Network Stats registra dove i dati entrano ed escono dalla sua rete. Performance Stats confronta il comportamento di upload e download tramite un framework di test neutrale di terze parti. Drive Stats, mantenuto dal 2013, monitora i tassi di guasto degli hard drive nei suoi data center. Backblaze pubblica le metodologie e afferma di rendere noti i risultati anche quando sono sfavorevoli al proprio servizio.
Le sue misurazioni di rete mostrano che i dati AI arrivano in grandi batch, vengono archiviati e poi trasferiti verso l'ambiente di calcolo che offre costi o disponibilità adeguati. Ciò supporta la multi-cloud architecture, ossia un'applicazione che utilizza l'infrastruttura di più di un cloud provider. Gli strumenti AI preferiti e l'accesso alla capacità di calcolo possono cambiare di mese in mese, rendendo lo spostamento dei dati un elemento centrale della progettazione anziché un dettaglio trascurabile dello storage.
Backblaze classifica le reti connesse come content delivery networks, provider di hosting tradizionali, hyperscalers, provider regionali di servizi internet, carrier internet Tier 1 o neoclouds. Una neocloud è un provider di calcolo incentrato sui workload AI. L'azienda misura ogni categoria utilizzando la magnitude, definita come il numero di bit di dati trasferiti per Internet Protocol address, o IP address, che identifica una destinazione su una rete. Riferisce che la magnitude delle neoclouds è talmente superiore a quella delle altre categorie che un confronto diretto ha un'utilità limitata.
La forma di quel traffico è importante. I workload convenzionali coinvolgono spesso molte sorgenti che trasferiscono quantità prevedibili. I workload AI possono coinvolgere relativamente poche sorgenti che producono elephant flows, cioè trasferimenti di rete eccezionalmente grandi, in momenti altamente variabili. Backblaze afferma che questi trasferimenti possono presentarsi come burst concentrati provenienti da piccoli numeri di GPU, o graphics processing units utilizzate per calcoli AI intensivi, situate nei pressi delle principali infrastrutture di calcolo AI.
Questo modello compromette un approccio tradizionale al capacity planning basato sull'osservazione di diversi mesi di crescita e sull'aspettativa che la domanda raddoppi ogni due anni. I team responsabili dell'infrastruttura potrebbero invece dover aggiungere bandwidth con incrementi più grandi, potenziare il network switching interno per i carichi improvvisi e stabilire relazioni di peering affidabili, ossia connessioni dirette utilizzate dalle reti per scambiarsi traffico. In caso contrario, uno storage progettato per il traffico convenzionale potrebbe essere sottodimensionato o configurato in modo errato rispetto alla domanda di AI storage. Backblaze avverte che Network Stats è ancora un dataset recente: i modelli sono utili per indicare una direzione, ma le misurazioni disponibili non consentono ancora di trarre conclusioni certe.
I test delle prestazioni presentano un secondo problema, perché non esiste un singolo benchmark che rappresenti ogni workload AI. Il model serving e la distribuzione esercitano pressione sul throughput di download. Le machine learning operations, comunemente chiamate MLOps, e la telemetry possono essere single-threaded, vale a dire che eseguono i trasferimenti attraverso un solo flusso di elaborazione anziché molti in parallelo. L'inference, il processo che utilizza un modello addestrato per produrre una risposta, può richiedere una bassa latency di lettura quando è necessario recuperare rapidamente i file del modello.
Altre applicazioni generano esigenze differenti. La retrieval-augmented generation, o RAG, legge ripetutamente oggetti archiviati relativamente piccoli dopo averli scritti una sola volta. L'analisi di log ed eventi richiede prestazioni competitive per le scritture di piccole dimensioni e letture rapide. Le query interattive sui data lake, che effettuano ricerche in una vasta raccolta di informazioni archiviate, dipendono da un throughput costante e da download rapidi. Backblaze testa quindi upload e download single-threaded e multi-threaded con file di varie dimensioni, anziché ridurre le prestazioni a un unico punteggio.
L'azienda ha inoltre comunicato che i test iniziali hanno raggiunto i propri limiti di bandwidth. Ha pubblicato i risultati soggetti a rate limiting, ha documentato ciò che aveva attivato la restrizione e ha poi ripetuto i test applicando quella che ha descritto come la più piccola modifica possibile. Entrambe le serie di risultati sono state presentate una accanto all'altra. Si tratta di un principio di test utile per qualsiasi acquirente: documentare i limiti anziché modificare silenziosamente il benchmark quando un risultato è scomodo. Backblaze afferma che due trimestri di Performance Stats rivelano alcuni modelli, ma non sono sufficienti per trarre conclusioni definitive nelle diverse regioni. Le organizzazioni dovrebbero associare i test ai propri workload e ripeterli con le proprie applicazioni.
I supporti fisici restano parte dell'equazione. Drive Stats riguarda gli hard drive anziché i solid-state drives, o SSD, che archiviano i dati elettronicamente e possono fornire un accesso molto rapido. Backblaze sostiene che gli SSD siano particolarmente importanti quando uno storage veloce deve mantenere alimentate le GPU durante l'addestramento AI, mentre gli hard drive meccanici rimangono rilevanti per i volumi di dati molto più grandi che circondano quelle fasi intensive, perché costano significativamente meno per gigabyte.
Backblaze riferisce che i prezzi degli hard drive sono aumentati del 46% dalla fine del 2025, mentre i tempi di consegna si sono allungati fino a 12 mesi o più, poiché i data center AI assorbono la capacità produttiva. Western Digital ha dichiarato che quasi tutta la sua produzione annuale è già impegnata, con contratti per clienti hyperscale che si estendono fino al 2028 e al 2029. Seagate sta distribuendo unità fino a 44TB basate sulla propria piattaforma heat-assisted magnetic recording, o HAMR, e afferma che diversi cloud provider hyperscale le hanno qualificate. Durante l'Innovation Day 2026, Western Digital ha annunciato lavori sull'architettura che mostrano un attuale miglioramento del throughput di due volte, con un percorso pianificato verso un miglioramento di quattro volte e infine di otto volte.
Le unità di maggiore capacità stanno anche modificando la densità dello storage. Alla fine del 2025, le unità da 20TB o più rappresentavano quasi il 23% della flotta di Backblaze per numero di unità e una quota maggiore della capacità. La sua prima unità da 26TB è entrata in servizio nel quarto trimestre del 2025. La sostituzione delle unità da 8TB con unità da 24TB consente alla stessa quantità di informazioni di occupare un terzo dello spazio rack.
Una maggiore densità rende più complessa la protezione. Backblaze utilizza Reed-Solomon erasure coding, un metodo che divide i file in frammenti di dati e frammenti di ripristino chiamati parity shards, distribuendoli poi nella flotta di storage. Le unità più grandi richiedono un maggior numero di parity shards, che devono essere collocati con attenzione affinché non siano troppi nello stesso rack. In caso contrario, un guasto delle apparecchiature potrebbe interessare più frammenti necessari per ricostruire le informazioni.
Drive Stats copre 557 milioni di drive-days, calcolati sommando ogni giorno di funzionamento di ogni unità monitorata nell'arco di 13 anni.