Дженсен Хуанг вновь поразил публику на конференции GTC, объявив о начале новой эры инференса в области искусственного интеллекта. Nvidia презентовала обновленную линейку аппаратных и программных решений, сосредоточив внимание на быстром предоставлении ответов вместо обучения моделей. Главным достижением стал серверный комплекс Nvidia Groq 3 LPX rack, сочетающий 72 узла Vera Rubin и 256 новых LPU, разработанных компанией Groq. Сделка на $20 млрд обеспечила Nvidia доступ к ключевым технологиям стартапа.

По словам Хуанга, новая система обеспечивает 700 млн токенов в секунду — на 350 раз больше, чем предыдущие поколения. Также была увеличена память на серверах. Глава Nvidia отметил, что инференс станет основным направлением в индустрии. При этом компания пересмотрела прогнозы: к 2027 году ожидается продажа чипов на сумму $1 трлн.

Кроме того, Nvidia анонсировала новые партнерства в области цифрового моделирования и роботакси, а также расширение инфраструктуры с помощью стартапа Nscale в Западной Виргинии. Завершая мероприятие, Хуанга развлекал робот Олаф, продемонстрировавший потенциал физического ИИ в будущем.