Perusahaan baru, Niv-AI, telah meluncurkan dana awal sebesar $12 juta untuk mengatasi hambatan penting dalam industri AI yang sedang booming: penggunaan daya yang tidak efisien di pusat data. Masalah utamanya adalah GPU canggih, yang penting untuk pelatihan dan menjalankan model AI, menciptakan lonjakan permintaan listrik yang tidak dapat diprediksi, sehingga memaksa operator untuk membatasi kinerja atau membayar ekstra untuk penyimpanan energi. Hal ini berarti investasi yang sia-sia dan pengembangan AI yang lebih lambat.
Masalah Kekuatan dengan AI
Seperti yang diungkapkan secara blak-blakan oleh CEO Nvidia Jensen Huang, setiap watt daya yang tidak terpakai di pabrik AI menunjukkan hilangnya pendapatan. Masalah ini berasal dari fluktuasi daya berskala milidetik yang melekat pada beban kerja GPU modern. Ketika ribuan GPU dengan cepat beralih antar tugas, mereka menciptakan lonjakan yang membebani sistem manajemen daya yang ada. Pusat data bereaksi dengan membatasi penggunaan GPU (mengurangi kinerja) atau membayar lebih untuk cadangan energi cadangan.
Skala pemborosan sangat signifikan. Pakar industri memperkirakan bahwa hingga 30% potensi kapasitas GPU belum dimanfaatkan karena keterbatasan daya. Ini bukan hanya persoalan ekonomi; hal ini juga menghambat kemajuan penelitian dan penerapan AI.
Pendekatan Niv-AI: Pemantauan Real-Time dan Prediksi Berbasis AI
Didirikan di Tel Aviv, Niv-AI mengambil pendekatan dua arah:
- Pengukuran Daya yang Tepat: Perusahaan menerapkan sensor tingkat rak untuk memantau konsumsi daya GPU pada tingkat milidetik. Data terperinci ini akan mengungkapkan profil kekuatan spesifik dari berbagai tugas pembelajaran mendalam.
- Optimasi Bertenaga AI: Niv-AI berencana melatih model AI berdasarkan data yang dikumpulkan untuk memprediksi dan menyinkronkan beban daya di seluruh pusat data. Tujuannya adalah untuk menciptakan “kopilot” bagi para insinyur pusat data, yang memungkinkan mereka memaksimalkan penggunaan GPU tanpa membebani jaringan secara berlebihan.
Mengapa Ini Penting Sekarang
Waktunya sangat penting. Hyperscaler (penyedia cloud besar) menghadapi kendala dalam membangun pusat data baru karena pembatasan penggunaan lahan dan masalah rantai pasokan. Meningkatkan efisiensi infrastruktur yang ada kini menjadi lebih menarik dibandingkan sebelumnya. Sistem yang ada saat ini memaksa adanya trade-off antara kinerja dan stabilitas, dan Niv-AI bertujuan untuk menyelesaikannya.
“Jaringan listrik sebenarnya takut pusat data mengonsumsi terlalu banyak daya pada waktu tertentu,” jelas CEO Niv-AI Tomer Timor. Visi perusahaan adalah menciptakan “lapisan intelijen” yang hilang antara pusat data dan jaringan listrik.
Niv-AI berharap sistem dapat berfungsi di pusat data AS dalam waktu 6–8 bulan. Startup ini didukung oleh perusahaan ventura terkemuka termasuk Glilot Capital dan Grove Ventures.
Implikasi jangka panjangnya jelas: seiring dengan pertumbuhan AI, permintaan listrik akan semakin meningkat. Perusahaan seperti Niv-AI berperan penting dalam memastikan pertumbuhan ini berkelanjutan dan efisien.
