Библиотека с открытым кодом NVIDIA Dynamo ускоряет и масштабирует модели ИИ для рассуждений

NVIDIA Dynamo увеличивает производительность вывода, снижая затраты на масштабирование вычислений тестового времени; оптимизации вывода на NVIDIA Blackwell увеличивают пропускную способность в 30 раз на DeepSeek-R1.

Новая архитектура NVIDIA Dynamo нацелена на значительное повышение эффективности вычислений, связанных с выводом, особенно в контексте машинного обучения и искусственного интеллекта. Это позволяет компаниям более эффективно использовать ресурсы, снижая затраты на эксплуатацию и масштабирование систем.

На примере DeepSeek-R1 пропускная способность увеличилась в 30 раз благодаря оптимизациям на платформе NVIDIA Blackwell. NVIDIA продолжает укреплять свои позиции на рынке высокопроизводительных вычислений, предоставляя решения, которые комбинируют высокую производительность и экономичность.