Nowa firma, Niv-AI, rozpoczęła działalność z kapitałem początkowym w wysokości 12 milionów dolarów, aby rozwiązać krytyczny problem w szybko rozwijającej się branży sztucznej inteligencji: nieefektywność energetyczna w centrach danych. Sednem problemu jest to, że dzisiejsze procesory graficzne (GPU), potrzebne do uczenia i uruchamiania modeli sztucznej inteligencji, powodują nieprzewidywalne skoki zapotrzebowania na energię elektryczną, zmuszając operatorów do ograniczania wydajności lub przepłacania za magazynowanie energii. Skutkuje to utratą inwestycji i wolniejszym rozwojem sztucznej inteligencji.
Problem zużycia energii w AI
Jak bez ogródek stwierdził dyrektor generalny Nvidii, Jensen Huang, każdy wat energii niewykorzystany w fabryce sztucznej inteligencji oznacza utratę przychodów. Problem wynika z wahań zużycia energii w skali milisekundowej, nieodłącznie związanych z obciążeniami nowoczesnych procesorów graficznych. Kiedy tysiące procesorów graficznych szybko przełącza się między zadaniami, tworzą się skoki, które przeciążają istniejące systemy zarządzania energią. Centra danych reagują albo zmniejszając wydajność procesora graficznego (zmniejszając wydajność), albo przepłacając za zapasowe źródła zasilania.
Skala strat jest znacząca. Eksperci szacują, że aż 30% potencjalnej mocy GPU pozostaje niewykorzystane ze względu na ograniczenia w dostawie prądu. Jest to nie tylko problem ekonomiczny, ale także przeszkoda w postępie w badaniach i wdrażaniu sztucznej inteligencji.
Podejście Niv-AI: monitorowanie w czasie rzeczywistym i prognozowanie oparte na sztucznej inteligencji
Niv-AI z siedzibą w Tel Awiwie przyjmuje dwutorowe podejście:
- Precyzyjny pomiar mocy: firma wdraża czujniki montowane na poziomie szafy serwerowej, aby monitorować zużycie energii procesora graficznego z dokładnością do milisekund. Te szczegółowe dane ujawnią konkretne profile zużycia energii dla różnych zadań głębokiego uczenia się.
- Optymalizacja oparta na sztucznej inteligencji: Niv-AI planuje wytrenować model sztucznej inteligencji na podstawie zebranych danych, aby przewidywać i synchronizować zużycie energii w całych centrach danych. Celem jest stworzenie „drugiego pilota” dla inżynierów zajmujących się centrami danych, umożliwiającego im maksymalne wykorzystanie procesora graficznego bez przeciążania sieci.
Dlaczego to ma teraz znaczenie
Moment jest właściwy. Duzi dostawcy rozwiązań chmurowych borykają się z trudnościami w budowie nowych centrów danych ze względu na ograniczenia w zakresie użytkowania gruntów i problemy z łańcuchem dostaw. Poprawa wydajności istniejącej infrastruktury jest teraz bardziej atrakcyjna niż kiedykolwiek. Obecny system wymusza kompromis pomiędzy wydajnością a stabilnością, a Niv-AI stara się to naprawić.
„Sieć energetyczna tak naprawdę obawia się, że centrum danych zużyje w pewnym momencie zbyt dużo energii” – wyjaśnia dyrektor generalny Niv-AI Tomer Timor. Wizją firmy jest stworzenie brakującej „inteligentnej warstwy” pomiędzy centrum danych a siecią energetyczną.
Niv-AI spodziewa się wdrożenia systemu produkcyjnego w amerykańskich centrach danych w ciągu 6-8 miesięcy. Startup jest wspierany przez czołowe firmy venture capital, w tym Glilot Capital i Grove Ventures.
Długoterminowe implikacje są jasne: w miarę dalszego rozwoju sztucznej inteligencji zapotrzebowanie na energię elektryczną będzie tylko rosło. Firmy takie jak Niv-AI są niezbędne do osiągnięcia zrównoważonego i wydajnego wzrostu.
