Новая компания, Niv-AI, начала свою деятельность с привлечением 12 миллионов долларов посевного финансирования для решения критической проблемы в быстрорастущей индустрии ИИ: неэффективного использования энергии в центрах обработки данных. Суть проблемы заключается в том, что современные графические процессоры (GPU), необходимые для обучения и запуска моделей ИИ, создают непредсказуемые скачки спроса на электроэнергию, вынуждая операторов либо ограничивать производительность, либо переплачивать за хранение энергии. Это приводит к потерянным инвестициям и замедлению развития ИИ.
Проблема энергопотребления в ИИ
Как прямо заявил генеральный директор Nvidia Дженсен Хуанг, каждый неиспользованный ватт энергии на заводе ИИ означает упущенную прибыль. Проблема связана с колебаниями энергопотребления в масштабе миллисекунд, свойственными современным рабочим нагрузкам GPU. Когда тысячи GPU быстро переключаются между задачами, они создают пики, которые перегружают существующие системы управления питанием. Центры обработки данных реагируют либо путем снижения производительности GPU (уменьшения эффективности), либо переплатой за резервные источники энергии.
Масштаб потерь значителен. По оценкам экспертов, до 30% потенциальной мощности GPU остается неиспользованной из-за ограничений энергоснабжения. Это не только экономическая проблема, но и препятствие для прогресса в исследованиях и внедрении ИИ.
Подход Niv-AI: мониторинг в реальном времени и прогнозирование на основе ИИ
Основанная в Тель-Авиве, Niv-AI использует двухсторонний подход:
- Точное измерение мощности: компания развертывает датчики на уровне стойки для мониторинга энергопотребления GPU с точностью до миллисекунды. Эти подробные данные раскроют конкретные профили энергопотребления различных задач глубокого обучения.
- Оптимизация на основе ИИ: Niv-AI планирует обучить модель ИИ на собранных данных, чтобы прогнозировать и синхронизировать энергопотребление в масштабе целых центров обработки данных. Цель состоит в том, чтобы создать «второго пилота» для инженеров центров обработки данных, позволяя им максимально использовать GPU без перегрузки сети.
Почему это важно сейчас
Момент подходящий. Крупные облачные провайдеры сталкиваются с трудностями при строительстве новых центров обработки данных из-за ограничений в землепользовании и проблем с цепочками поставок. Повышение эффективности существующей инфраструктуры сейчас более привлекательно, чем когда-либо. Текущая система вынуждает идти на компромисс между производительностью и стабильностью, и Niv-AI стремится это исправить.
«Электросеть фактически боится, что центр обработки данных потребит слишком много энергии в определенный момент времени», — объясняет генеральный директор Niv-AI Томер Тимор. Видение компании — создать недостающий «интеллектуальный слой» между центром обработки данных и электросетью.
Niv-AI ожидает развертывания рабочей системы в центрах обработки данных США в течение 6–8 месяцев. Стартап поддерживается известными венчурными фирмами, включая Glilot Capital и Grove Ventures.
Долгосрочные последствия очевидны: по мере продолжения роста ИИ спрос на электроэнергию будет только усиливаться. Компании, такие как Niv-AI, необходимы для обеспечения устойчивого и эффективного роста.
