Nová společnost, Niv-AI, zahájila činnost s počátečním financováním ve výši 12 milionů USD, aby řešila kritický problém v rychle se rozvíjejícím odvětví umělé inteligence: energetickou neefektivnost v datových centrech. Jádrem problému je, že dnešní grafické procesorové jednotky (GPU), které jsou potřebné k trénování a provozu modelů umělé inteligence, vytvářejí nepředvídatelné skoky v poptávce po elektřině, což nutí operátory buď omezovat výkon, nebo přeplácet za ukládání energie. To má za následek ztracené investice a pomalejší vývoj AI.
Problém spotřeby energie v AI
Jak bez obalu uvedl generální ředitel Nvidie Jensen Huang, každý watt energie nevyužitý v továrně na umělou inteligenci znamená ušlý zisk. Problém pramení z kolísání spotřeby energie v řádu milisekund, které je vlastní moderní pracovní zátěži GPU. Když tisíce GPU rychle přepínají mezi úkoly, vytvářejí špičky, které přetěžují stávající systémy správy napájení. Datová centra reagují buď snížením výkonu GPU (snížením efektivity), nebo přeplácením záložních zdrojů energie.
Rozsah ztrát je významný. Odborníci odhadují, že až 30 % potenciálního výkonu GPU zůstává nevyužito kvůli omezením napájení. To není jen ekonomický problém, ale také překážka pokroku ve výzkumu a implementaci umělé inteligence.
Přístup Niv-AI: monitorování v reálném čase a prognózy založené na umělé inteligenci
Niv-AI se sídlem v Tel Avivu zaujímá dvojí přístup:
- Přesné měření spotřeby: Společnost nasazuje snímače na úrovni stojanu pro sledování spotřeby energie GPU s přesností na milisekundy. Tato podrobná data odhalí specifické profily spotřeby energie různých úkolů hlubokého učení.
- Optimalizace řízená umělou inteligencí: Niv-AI plánuje trénovat model umělé inteligence na shromážděných datech, aby bylo možné předvídat a synchronizovat spotřebu energie napříč celými datovými centry. Cílem je vytvořit „kopilota“ pro inženýry datových center, který jim umožní vytěžit maximum z GPU bez přetížení sítě.
Proč na tom teď záleží
Nastal správný okamžik. Velcí poskytovatelé cloudu čelí potížím při budování nových datových center kvůli omezením využívání půdy a problémům s dodavatelským řetězcem. Zlepšování efektivity stávající infrastruktury je nyní atraktivnější než kdy dříve. Současný systém si vynucuje kompromis mezi výkonem a stabilitou a společnost Niv-AI je odhodlána to napravit.
„Elektronická síť se ve skutečnosti bojí, že datové centrum bude v určitém okamžiku spotřebovávat příliš mnoho energie,“ vysvětluje generální ředitel Niv-AI Tomer Timor. Vizí společnosti je vytvořit chybějící „chytrou vrstvu“ mezi datovým centrem a elektrickou sítí.
Niv-AI očekává nasazení produkčního systému v datových centrech v USA během 6-8 měsíců. Startup je podporován předními společnostmi rizikového kapitálu včetně Glilot Capital a Grove Ventures.
Dlouhodobé důsledky jsou jasné: jak bude umělá inteligence dále růst, poptávka po elektřině se bude jen zvyšovat. Společnosti jako Niv-AI jsou nezbytné pro dosažení udržitelného a efektivního růstu.
