Alibaba Cloud утверждает, что снизила использование GPU Nvidia на 82% с помощью новой системы управления ресурсами

Alibaba Group Holding представила решение для объединения вычислительных мощностей, которое, по их заявлению, позволило сократить на 82 процента количество графических процессоров (GPU) Nvidia, необходимых для обслуживания их моделей искусственного интеллекта. Система под названием Aegaeon была протестирована в бета-режиме на модельной платформе Alibaba Cloud в течение более трех месяцев. В результате количество необходимых графических процессоров Nvidia H20 для обслуживания десятков моделей с объемом до 72 миллиардов параметров сократилось с 1,192 до 213, согласно исследовательской работе, представленной недавно.

Решение Aegaeon позволяет объединять вычислительные мощности, что способствует более эффективному использованию ресурсов. Исследования в области оптимизации моделей ИИ продолжают активно развиваться, и компании продолжают искать способы сделать свои операции более устойчивыми и экономичными. Alibaba является одним из мировых лидеров в области облачных технологий и инноваций в сфере искусственного интеллекта.