Perplexity выбирает процессоры Nvidia Vera для ускорения ИИ-агентов
Новое сотрудничество в мире ИИ
Стартап Perplexity официально подтвердил планы по использованию центральных процессоров Nvidia Vera для работы своих ИИ-моделей. Об этом сообщает агентство Reuters, отмечая, что Nvidia стремится к расширению своего присутствия на рынке серверных процессоров, где долгое время доминировали Intel и AMD.
Преимущество в производительности
По данным компании Perplexity, процессоры Nvidia Vera обеспечивают полуторакратное (1.5x) превосходство в быстродействии ИИ-агентов, создающих программный код, по сравнении с центральными процессорами других производителей. Вице-президент Perplexity Нейт Капп охарактеризовал чип как идеально подходящий для большинства ключевых нагрузок в инфраструктуре компании.
Упор в развитии ИИ сейчас делается на операции инференса (вывода), где себя хорошо проявляют центральные процессоры. В отличие от традиционных пользователей процессоров, которые делают паузы между задачами, ИИ-агенты работают непрерывно, что требует специализированных решений.
Технические особенности платформы
Процессор Vera, основанный на 88 фирменных ядрах Olympus, предлагает на 50% большее количество инструкций, выполняемых за один такт, по сравнению со старшим поколением Grace. Чип соединен со сверхбыстрой памятью LPDDR5X с пропускной способностью 1,2 ТБ/с при низком энергопотреблении.
Монолитная конструкция вычислительной матрицы гарантирует непрерывный поток данных к активным ядрам благодаря внутренней пропускной способности на уровне 3,4 ТБ/с — в три раза выше, чем у любого другого серверного процессора на рынке. Это позволяет всем ядрам полностью использовать производительность памяти без создания узких мест.
Рынок и перспективы
Nvidia ожидает получить до $20 млрд выручки от процессоров Vera к концу текущего финансового года, укрепляя свои позиции на рынке серверных процессоров. Процессоры уже запущены в массовое производство и используются такими технологическими гигантами, как OpenAI, xAI, Oracle и Anthropic.
В тестировании монолитной архитектуры Vera удалось достичь 90% прироста производительности по сравнению с классическими конструкциями x86. Внешние партнеры отмечают трехкратное ускорение работы при масштабном анализе SQL и шестикратное снижение задержек при стриминге в реальном времени.
Планы на будущее
Nvidia уже анонсирует следующего серверного гиганта под кодовым названием Rosa, который будет использовать новую архитектуру ядер Rigel. Точное количество процессоров Vera, которое закажет Perplexity, пока не раскрывается, однако широкое внедрение чипа среди лидеров рынка ИИ подтверждает его значительный успех.
Философия платформы Vera основана на трех ключевых принципах: высокая вычислительная способность одного ядра под нагрузкой, соответствующая пропускная способность памяти и полностью предсказуемые задержки. Эти особенности особенно важны для работы ИИ-агентов, где процессор выполняет задачу, возвращает результаты, затем модель определяет следующий шаг, и весь цикл повторяется многократно.