Новый AI-чип OpenAI превзошёл Nvidia GB300 по эффективности, заявляет компания

OpenAI (Unlisted:OPAI) во вторник сообщила, что её специально разработанный чип для инференса Jalapeño, созданный совместно с Broadcom Inc (NASDAQ:AVGO, XETRA:1YD), показал лучшие показатели пропускной способности на ватт и более низкую задержку отклика по сравнению с GB300 от Nvidia Corp (NASDAQ:NVDA, XETRA:NVD) в внутренних тестах. Этот чип предназначен именно для инференса, а не для обучения моделей, и работает при мощности около 700 ватт. Такие результаты свидетельствуют о том, что Jalapeño может обеспечить более эффективную работу при выполнении задач искусственного интеллекта, требующих быстрого отклика и высокой энергоэффективности.