Een nieuw bedrijf, Niv-AI, is gelanceerd met $12 miljoen aan startfinanciering om een kritiek knelpunt in de bloeiende AI-industrie aan te pakken: inefficiënt energieverbruik in datacenters. Het kernprobleem is dat geavanceerde GPU’s, essentieel voor het trainen en uitvoeren van AI-modellen, onvoorspelbare pieken in de vraag naar elektriciteit veroorzaken, waardoor operators gedwongen worden de prestaties te beperken of extra te betalen voor energieopslag. Dit vertaalt zich in verspilde investeringen en tragere AI-ontwikkeling.
Het stroomprobleem met AI
Zoals Nvidia-CEO Jensen Huang ronduit zei: elke ongebruikte watt aan stroom in een AI-fabriek vertegenwoordigt verloren inkomsten. Het probleem komt voort uit de stroomschommelingen op millisecondenschaal die inherent zijn aan moderne GPU-workloads. Wanneer duizenden GPU’s snel tussen taken schakelen, creëren ze pieken die de bestaande energiebeheersystemen overweldigen. Datacenters reageren door het GPU-gebruik te beperken (waardoor de prestaties afnemen) of door te veel te betalen voor back-up-energiereserves.
De omvang van de verspilling is aanzienlijk. Experts uit de branche schatten dat tot 30% van de potentiële GPU-capaciteit ongebruikt blijft vanwege stroombeperkingen. Dit is niet alleen een economische kwestie; het belemmert ook de voortgang van het onderzoek en de inzet van AI.
Niv-AI’s aanpak: realtime monitoring en AI-gestuurde voorspelling
Niv-AI, opgericht in Tel Aviv, hanteert een tweeledige aanpak:
- Nauwkeurige vermogensmeting: Het bedrijf maakt gebruik van sensoren op rackniveau om het GPU-stroomverbruik tot op millisecondenniveau te monitoren. Deze gedetailleerde gegevens zullen de specifieke machtsprofielen van verschillende deep learning-taken onthullen.
- AI-aangedreven optimalisatie: Niv-AI is van plan een AI-model te trainen op de verzamelde gegevens om stroombelastingen over hele datacenters te voorspellen en te synchroniseren. Het doel is om een ‘copiloot’ te creëren voor datacenteringenieurs, waardoor ze het GPU-gebruik kunnen maximaliseren zonder het netwerk te overbelasten.
Waarom dit er nu toe doet
De timing is cruciaal. Hyperscalers (grote cloudproviders) worden geconfronteerd met hindernissen bij het bouwen van nieuwe datacenters vanwege beperkingen op het gebied van landgebruik en problemen met de toeleveringsketen. Het verbeteren van de efficiëntie van de bestaande infrastructuur is nu aantrekkelijker dan ooit. Het huidige systeem dwingt een afweging af tussen prestaties en stabiliteit, en Niv-AI wil dat oplossen.
“Het netwerk is eigenlijk bang dat het datacenter op een bepaald moment te veel stroom verbruikt”, legt Tomer Timor, CEO van Niv-AI, uit. De visie van het bedrijf is om een ontbrekende ‘intelligentielaag’ te creëren tussen het datacenter en het elektriciteitsnet.
Niv-AI verwacht binnen zes tot acht maanden een werkend systeem te hebben in Amerikaanse datacenters. De startup wordt ondersteund door vooraanstaande durfkapitaalbedrijven, waaronder Glilot Capital en Grove Ventures.
De implicaties op de lange termijn zijn duidelijk: naarmate AI blijft groeien, zal de vraag naar elektriciteit alleen maar toenemen. Bedrijven als Niv-AI zijn essentieel om deze groei duurzaam en efficiënt te laten verlopen.
