In Breve
- Qual è la previsione di LinkedIn per gli investimenti in GPU?
- LinkedIn prevede di mantenere invariati gli investimenti in GPU nel prossimo anno fiscale.
- Come ha migliorato LinkedIn l'efficienza delle GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti grazie a miglioramenti nell'utilizzo e nell'allocazione dei carichi di lavoro.
- Qual è l'approccio di LinkedIn rispetto a Microsoft?
- LinkedIn adotta un approccio più conservativo rispetto all'espansione infrastrutturale di Microsoft.
LinkedIn ha comunicato che non prevede un aumento significativo della spesa per hardware AI nel prossimo anno fiscale, mantenendo sostanzialmente invariato l’investimento in GPU. Questa decisione è frutto di un approccio strategico volto a ottimizzare l’efficienza delle risorse esistenti piuttosto che a espandere l’infrastruttura hardware.
Secondo Erran Berger, CTO dell’ingegneria, la società ha raddoppiato l’efficienza delle GPU attuali in circa sei mesi. Questo risultato è stato ottenuto attraverso miglioramenti nell’utilizzo delle GPU, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. LinkedIn intende utilizzare il margine operativo derivante da queste ottimizzazioni per sviluppare nuove funzionalità, evitando così l’acquisto di nuovo hardware.
Il piano di LinkedIn si colloca in un contesto più ampio, dato che l’azienda è controllata da Microsoft dal 2016. Tuttavia, LinkedIn ha scelto un approccio diverso rispetto all’espansione infrastrutturale aggressiva di Microsoft, che ha registrato 41 miliardi di dollari di spesa in conto capitale nell’ultimo trimestre, aggiungendo 31 data center in quel periodo e 88 nell’anno, con previsioni di oltre 50 miliardi per il trimestre corrente.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da allora, la società ha investito in data center propri situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è considerato un vantaggio, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere un anno senza incrementi in storage e calcolo è «non una piccola impresa» e ha richiesto un notevole impegno. I miglioramenti ottenuti sono il risultato di un approccio cumulativo piuttosto che di una singola innovazione tecnologica. Ciò include un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro e la distillazione di modelli più grandi in versioni più piccole.
Questa strategia è stata anche influenzata dalla dinamica dei costi: il costo per singola query era in aumento mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. Sebbene LinkedIn non affermi di aver risolto definitivamente il problema, questa scelta rappresenta un’alternativa alla tendenza generale di crescita proporzionale dell’hardware. La sua efficacia dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo.
