AI Power Management Startup Niv-AI surge para lidar com o desperdício de energia da GPU

9

Uma nova empresa, a Niv-AI, foi lançada com US$ 12 milhões em financiamento inicial para resolver um gargalo crítico na crescente indústria de IA: o uso ineficiente de energia em data centers. O principal problema é que GPUs avançadas, essenciais para treinamento e execução de modelos de IA, criam picos imprevisíveis na demanda de eletricidade, forçando as operadoras a limitar o desempenho ou a pagar mais pelo armazenamento de energia. Isto se traduz em investimento desperdiçado e desenvolvimento mais lento da IA.

O problema de energia com IA

Como afirmou sem rodeios o CEO da Nvidia, Jensen Huang, cada watt de energia não utilizado em uma fábrica de IA representa perda de receita. O problema decorre das flutuações de energia em escala de milissegundos inerentes às cargas de trabalho de GPU modernas. Quando milhares de GPUs alternam rapidamente entre tarefas, elas criam picos que sobrecarregam os sistemas de gerenciamento de energia existentes. Os data centers reagem limitando o uso da GPU (reduzindo o desempenho) ou pagando caro pelas reservas de energia de backup.

A escala de desperdício é significativa. Especialistas do setor estimam que até 30% da capacidade potencial da GPU permanece inexplorada devido a restrições de energia. Esta não é apenas uma questão económica; também dificulta o progresso da investigação e implantação da IA.

Abordagem da Niv-AI: monitoramento em tempo real e previsão baseada em IA

Fundada em Tel Aviv, a Niv-AI está adotando uma abordagem dupla:

  1. Medição precisa de energia: A empresa está implantando sensores em nível de rack para monitorar o consumo de energia da GPU em milissegundos. Esses dados detalhados revelarão os perfis de poder específicos de diferentes tarefas de aprendizagem profunda.
  2. Otimização baseada em IA: A Niv-AI planeja treinar um modelo de IA nos dados coletados para prever e sincronizar cargas de energia em data centers inteiros. O objetivo é criar um “copiloto” para engenheiros de data center, permitindo-lhes maximizar o uso da GPU sem sobrecarregar a rede.

Por que isso é importante agora

O momento é crucial. Os hiperscaladores (grandes fornecedores de nuvem) estão enfrentando obstáculos na construção de novos data centers devido a restrições de uso do solo e problemas na cadeia de fornecimento. Melhorar a eficiência da infraestrutura existente é agora mais atraente do que nunca. O sistema atual força um compromisso entre desempenho e estabilidade, e a Niv-AI pretende resolver isso.

“A rede tem medo de que o data center consuma muita energia em um horário específico”, explica o CEO da Niv-AI, Tomer Timor. A visão da empresa é criar uma “camada de inteligência” que falta entre o data center e a rede elétrica.

A Niv-AI espera ter um sistema funcionando nos data centers dos EUA dentro de 6 a 8 meses. A startup é apoiada por empresas de risco proeminentes, incluindo Glilot Capital e Grove Ventures.

A implicação a longo prazo é clara: à medida que a IA continua a crescer, a procura de electricidade só se intensificará. Empresas como a Niv-AI são essenciais para garantir que esse crescimento seja sustentável e eficiente.