In Breve
- Qual è la previsione di LinkedIn per gli investimenti in GPU?
- LinkedIn non prevede un aumento significativo della spesa per hardware AI nel prossimo anno fiscale.
- Come ha migliorato LinkedIn l'efficienza delle sue GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti attraverso miglioramenti nell'utilizzo e nell'allocazione dei carichi di lavoro.
- Qual è la strategia di LinkedIn riguardo ai data center?
- LinkedIn ha deciso di investire in data center propri, dopo aver sospeso un progetto di migrazione su Azure.
LinkedIn ha comunicato che non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente piatto, mantenendo invariati anche i livelli di calcolo e storage.
La società ha riferito di aver raddoppiato l’efficienza delle GPU esistenti in circa sei mesi, grazie a miglioramenti nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. Questo margine operativo sarà impiegato per sviluppare nuove funzionalità piuttosto che per l’acquisto di nuovo hardware.
Erran Berger, CTO dell’ingegneria, ha descritto l’obiettivo di LinkedIn come la capacità di mantenere stabile il footprint di calcolo, pur introducendo funzionalità più esigenti dal punto di vista computazionale. Questo approccio si distingue da quello di Microsoft, che controlla LinkedIn dal 2016 e ha recentemente registrato una spesa in conto capitale di 41 miliardi di dollari, con l’aggiunta di 31 nuovi data center nell’ultimo trimestre.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. La società ha quindi deciso di investire in data center propri, situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è considerato un fattore abilitante, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere per un anno senza incremento di storage e calcolo è un’impresa significativa, che ha richiesto un notevole sforzo. I miglioramenti ottenuti sono il risultato di un approccio cumulativo piuttosto che di una singola innovazione tecnologica, comprendendo un migliore utilizzo delle GPU, la riallocazione dei carichi e la distillazione di modelli più grandi in versioni più piccole.
Questa strategia è stata motivata anche dalla dinamica dei costi: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. LinkedIn non afferma di aver risolto definitivamente il problema; piuttosto, la scelta rappresenta un’alternativa alla crescita proporzionale dell’hardware, la cui efficacia dipenderà dalla capacità del programma di efficienza di mantenersi nel tempo.