I proprietari dell'AI

Chris Sharp è il CTO di Digital Realty

: Perché la modularità sarà fondamentale per i data center e l'economia dell'intelligenza artificiale

L’improvvisa comparsa di IA commerciale su larga scala nell’ultimo anno, in particolare di nuove applicazioni di IA generativa come ChatGPT, ha imposto una nuova serie di requisiti tecnici alle strutture dei data center in cui risiedono queste applicazioni. L’infrastruttura che li supporta assorbirà più energia, masticherà più dati e utilizzerà più larghezza di banda che mai, il tutto all’interno di strutture che potrebbero essere state costruite 20 anni fa. Queste strutture devono ora adattarsi per supportare quello che in alcuni casi potrebbe essere un aumento di un ordine di grandezza nell'assorbimento di potenza per rack.

Un articolo in sette parti su quali modelli linguistici di grandi dimensioni e cosa significherà la prossima ondata di carichi di lavoro per la progettazione di elaborazione, rete e data center

L’unico modo per raggiungere questo obiettivo è con un design modulare.

I data center possono sembrare entità altamente statiche. Si tratta in genere di enormi edifici di mattoni e malta con file e file di generatori e altre apparecchiature all'esterno, tutti progettati attentamente per mantenere la struttura operativa in qualsiasi condizione, dalle tipiche condizioni quotidiane fino a un blackout totale della rete elettrica, senza interruzione. Tuttavia, il data center moderno è tutt’altro che statico; molte strutture sono progettate fin dall'inizio per essere altamente modulari e il piano di un data center può essere adattato per cambiamenti nella topologia della rete, considerazioni sul flusso d'aria e ridondanza fisica più volte all'anno, se necessario. Cosa spinge questa esigenza e come viene soddisfatta?

La diffusione diffusa delle implementazioni dell’intelligenza artificiale nei data center mostra quanto velocemente possano cambiare le esigenze dei clienti. Laddove solo l'anno scorso un operatore di data center sarebbe stato in grado di pianificare un consumo energetico medio di 10 kilowatt per rack di apparecchiature del cliente, la necessità di blocchi sempre più grandi di rack da 25, 50 o addirittura 100 kilowatt in luoghi diversi all'interno del sistema stessa struttura del data center è qui e continuerà a crescere. Con una progettazione statica tradizionale, ciò può creare molti problemi in termini di prestazioni, manutenzione e ridondanza.

In primo luogo, rack così densi spesso richiedono una maggiore larghezza di banda di rete per funzionare al massimo livello di efficienza. Questo aspetto viene spesso trascurato e un cliente sarà molto scontento se distribuisce un rack così denso (o 10 o 100 rack) e quindi non riesce a ottenere la larghezza di banda richiesta.

In secondo luogo, un aumento non uniforme dell'assorbimento di energia all'interno di un data center può spesso mettere a dura prova un sistema di raffreddamento che non è stato progettato per gestire questi tipi di punti caldi. Un rack denso a un'estremità di una fila nel data center potrebbe facilmente portare a un aumento della temperatura all'altra estremità.

Infine, le misure di resilienza e ridondanza si basano sulla posizione dei carichi elettrici specifici nella struttura e su come sono distribuiti. Se in un'area viene aggiunto un gruppo molto denso di apparecchiature, i progetti statici potrebbero non essere in grado di garantire che sia coperto da una capacità del generatore sufficientemente affidabile.

Come puoi immaginare, per il cliente AI, ciascuna di queste preoccupazioni rappresenta un problema significativo che va dall'incapacità di utilizzare le proprie apparecchiature AI al massimo delle prestazioni potenziali, al potenziale incorrere in tempi di inattività indesiderati in caso di interruzione di corrente o altro stress sul sistema. rete elettrica locale. Utilizzando una struttura di progettazione modulare altamente adattabile, questi problemi possono essere risolti nei data center di qualsiasi età.

Innanzitutto, gli spazi possono essere riconvertiti o progettati fin dall'inizio della struttura per essere utilizzati come sale di rete aggiuntive per consentire l'installazione di più circuiti di rete, switch e router per aumentare nel tempo la larghezza di banda della rete per il cliente. Inoltre, un metodo modulare di progettazione e implementazione di passerelle portacavi sospese consente all'operatore del data center di portare fisicamente al cliente quella connettività, che spesso viene trascurata nei progetti statici e non flessibili. Alcune tecnologie che abilitano l’intelligenza artificiale come InfiniBand possono utilizzare cavi grandi e pesanti, che possono essere installati solo in modo fattibile in modo modulare per evitare prestazioni reali e problemi operativi lungo la linea.