Il nuovo design di server Catapult v2 di Microsoft è destinato ad AI

Da anni Microsoft fornisce risultati Bing rapidi e precisi con server sperimentali chiamati Project Catapult, che ora hanno ricevuto un aggiornamento architettonico.

I server Catapult utilizzano chip riprogrammabili chiamati FPGA (array di gate programmabili sul campo), che sono fondamentali per fornire risultati Bing migliori. Gli FPGA possono segnare, filtrare, classificare e misurare rapidamente la rilevanza delle query di testo e di immagine su Bing.

Microsoft ha ora ridisegnato il server Catapult originale, utilizzato per indagare il ruolo degli FPGA nell'accelerazione dei server. Il progetto Catapult v2 proposto è più flessibile nell'eludere le tradizionali strutture del data center per l'apprendimento automatico ed espande il ruolo degli FPGA come acceleratori.

Microsoft ha presentato il progetto Catapult v2 per la prima volta all'inizio di questo mese alla conferenza Scaled Machine Learning in Stanford, California.

I data center di Microsoft supportano servizi come Cortana e Skype Translator, e l'azienda è costantemente alla ricerca di aggiornare le prestazioni del server. Microsoft sta inoltre lavorando con Intel per implementare la fotonica del silicio, in cui le fibre ottiche sostituiranno i fili di rame per comunicazioni più veloci tra i server nei data center.

Catapult v2 espande la disponibilità di FPGA, consentendo loro di essere collegati a un numero maggiore di risorse di elaborazione. Gli FPGA sono collegati alla DRAM, alla CPU e agli switch di rete.

Gli FPGA possono accelerare le applicazioni locali o essere una risorsa di elaborazione in modelli di apprendimento approfondito su larga scala. Molto simile a Bing, gli FPGA possono essere coinvolti nei risultati del punteggio e nella formazione dei modelli di deep-learning.

Il nuovo modello è un grande miglioramento rispetto al modello originale di Catapult, in cui gli FPGA erano limitati a una rete più piccola all'interno dei server.

Il design di Catapult v2 può essere utilizzato per il riconoscimento delle immagini basato sul cloud, l'elaborazione del linguaggio naturale e altre attività tipicamente associate all'apprendimento automatico.

Catapult v2 potrebbe anche fornire un progetto per l'utilizzo di FPGA in installazioni di apprendimento automatico. Molti modelli di machine learning sono guidati da GPU, ma il ruolo degli FPGA è meno chiaro. Baidu ha anche utilizzato FPGA in data center per l'apprendimento approfondito.

Gli FPGA possono fornire rapidamente risultati di apprendimento profondi, ma possono essere notoriamente affamati di potere se non programmati correttamente. Possono essere riprogrammati per eseguire compiti specifici, ma ciò li rende anche unidimensionali. Le GPU sono più flessibili e possono gestire diversi calcoli, ma gli FPGA possono essere più veloci in determinate attività.

Molte grandi aziende mostrano interesse per gli FPGA. Intel all'inizio di quest'anno ha completato l'acquisizione di Altera, un fornitore FPGA da 16,7 miliardi di dollari. Intel metterà FPGA Altera in auto, server, robot, droni e altri dispositivi.

Al di fuori di Microsoft, un server Catapult, utilizzato per l'apprendimento automatico, è installato presso il Texas Advanced Computing Center dell'Università del Texas, ad Austin. Il sistema è piccolo, con 32 server Intel Xeon a due socket, con 64 GB di memoria e un FPGA Altera Stratix V D5 con una memoria cache DDR3 da 8 GB.