Una nuova società, Niv-AI, è stata lanciata con un finanziamento iniziale di 12 milioni di dollari per affrontare un collo di bottiglia critico nel settore in forte espansione dell’intelligenza artificiale: utilizzo inefficiente dell’energia nei data center. Il problema principale è che le GPU avanzate, essenziali per l’addestramento e l’esecuzione di modelli di intelligenza artificiale, creano picchi imprevedibili nella domanda di elettricità, costringendo gli operatori a limitare le prestazioni o pagare un extra per l’accumulo di energia. Ciò si traduce in investimenti sprecati e in uno sviluppo più lento dell’intelligenza artificiale.
Il problema del potere con l’intelligenza artificiale
Come ha affermato senza mezzi termini il CEO di Nvidia Jensen Huang, ogni watt di potenza inutilizzato in una fabbrica di intelligenza artificiale rappresenta una perdita di entrate. Il problema deriva dalle fluttuazioni di potenza su scala millisecondo inerenti ai moderni carichi di lavoro delle GPU. Quando migliaia di GPU passano rapidamente da un’attività all’altra, creano picchi che travolgono i sistemi di gestione dell’alimentazione esistenti. I data center reagiscono limitando l’utilizzo della GPU (riducendo le prestazioni) o pagando più del dovuto per le riserve di energia di backup.
La portata degli sprechi è significativa. Gli esperti del settore stimano che fino al 30% della potenziale capacità della GPU non venga sfruttata a causa dei limiti di potenza. Questa non è solo una questione economica; ostacola inoltre il progresso della ricerca e della diffusione dell’IA.
Approccio di Niv-AI: monitoraggio in tempo reale e previsione basata sull’intelligenza artificiale
Fondata a Tel Aviv, Niv-AI sta adottando un duplice approccio:
- Misurazione precisa della potenza: l’azienda sta implementando sensori a livello di rack per monitorare il consumo energetico della GPU a livello di millisecondi. Questi dati dettagliati riveleranno i profili di potenza specifici delle diverse attività di deep learning.
- Ottimizzazione basata sull’intelligenza artificiale: Niv-AI prevede di addestrare un modello AI sui dati raccolti per prevedere e sincronizzare i carichi di energia in interi data center. L’obiettivo è creare un “copilota” per gli ingegneri dei data center, consentendo loro di massimizzare l’utilizzo della GPU senza sovraccaricare la rete.
Perché questo è importante adesso
Il tempismo è cruciale. Gli hyperscaler (grandi fornitori di cloud) si trovano ad affrontare ostacoli nella costruzione di nuovi data center a causa di restrizioni sull’uso del territorio e problemi della catena di fornitura. Migliorare l’efficienza delle infrastrutture esistenti è ora più interessante che mai. Il sistema attuale impone un compromesso tra prestazioni e stabilità e Niv-AI mira a risolvere questo problema.
“La rete in realtà teme che il data center consumi troppa energia in un momento specifico”, spiega Tomer Timor, CEO di Niv-AI. La visione dell’azienda è quella di creare uno “strato di intelligenza” mancante tra il data center e la rete elettrica.
Niv-AI prevede di avere un sistema funzionante nei data center statunitensi entro 6-8 mesi. La startup è supportata da importanti società di venture capital tra cui Glilot Capital e Grove Ventures.
Le implicazioni a lungo termine sono chiare: man mano che l’intelligenza artificiale continua a crescere, la domanda di elettricità non farà altro che intensificarsi. Aziende come Niv-AI sono essenziali per garantire che questa crescita sia sostenibile ed efficiente.
