Supermicro представила с IBM и NVIDIA решение для KV-кэша, повышающее производительность инференса

Supermicro, Inc. (NASDAQ: SMCI), поставщик комплексных ИТ-решений для ИИ, корпоративных систем, хранения данных и 5G/периферийных вычислений, включая Data Center Building Block Solutions® (DCBBS), сегодня объявила о новом решении для хранения KV-кэша совместно с IBM и NVIDIA. Решение объединяет серверы хранения Supermicro Petascale полностью на флеш-накопителях с процессорами AMD EPYC серии 9005 («Turin»), программное обеспечение IBM Storage Scale, программную платформу инференса NVIDIA Dynamo и сетевую технологию Spectrum-X Ethernet. По заявлению компании, решение демонстрирует существенные преимущества в производительности инференса.