AMD представила ускоритель Instinct MI455X с 432 ГБайт HBM4 для конкуренции с Nvidia в сегменте ИИ
Новая игра в гонке ИИ-ускорителей
AMD сделала решительный шаг в гонке ИИ-ускорителей, представив прорывной ускоритель Instinct MI455X. Новое решение ориентировано на конкуренцию с передовыми продуктами Nvidia и предназначено для центров обработки данных, масштабного обучения ИИ и стоечных систем.
Архитектура CDNA 5 и чиплетная структура
Графический процессор Instinct MI455X построен на архитектуре CDNA 5 и включает 320 млрд транзисторов. Корпус чипа объединяет несколько технологических процессов: восемь чиплетов ACD (Accelerator Complex Dies), производящихся по техпроцессу TSMC N2, образуют 256 вычислительных блоков WGP. Дополнительно используются два чиплета Fabric для шины передачи данных и кеша, а также два чиплета ввода-вывода, выпускаемых по 3-нм техпроцессу TSMC N3P.
Память и пропускная способность
Каждый ускоритель оснащен невероятными 432 ГБайт памяти HBM4, подключенных через 192-канальный интерфейс. Пиковая пропускная способность памяти достигает 23,3 ТБайт/с. В составе также 12 стеков памяти HBM4 и 192 МБайт глобального кеша L2, разделенного на два блока по 96 МБайт. Подсистема ввода-вывода поддерживает два канала PCIe Gen 6 или три сетевых адаптера AMD AI-NIC с использованием UALink.
Производительность и улучшения
AMD заявляет пиковую производительность в 20,13 Пфлопс в операциях MXFP8 и MXFP6, а в операциях MXFP4 — до 40,26 Пфлопс. По сравнению с предыдущим поколением Instinct MI355X новый ускоритель предлагает в 1,5 раза больше памяти, в 2,9 раза более высокую пропускную способность и в четыре раза более высокую производительность в операциях MXFP8 и MXFP4.
Архитектура CDNA 5 добавляет Tensor Data Mover для прямой асинхронной передачи данных между глобальной памятью и локальным хранилищем данных. Также реализованы кластеризация рабочих групп, многоадресная передача данных, механизм предварительной выборки данных, барьеры разделения и новый процессор команд, снижающий задержки при их отправке.
Платформа Helios и экосистема
Как составная часть экосистемы, AMD представила стойку Helios, объединяющую 72 ускорителя Instinct MI455X и 18 процессоров EPYC Venice. Это готовое решение для ЦОД обеспечивает мощность 2,9 экзафлопс в операциях FP4. Ускорители могут работать в режиме одного, двух или до восьми пространственных разделов — NPS1 и NPS2, оптимизирующих распределение данных между стеками памяти.
Кроме того, компания анонсировала ускоритель Instinct MI430X для научных вычислений, задач суверенного ИИ и комбинированных задач AI-HPC. Для этих устройств заявлена производительность в 288 Тфлопс в операциях FP64, хотя конфигурация их памяти пока не уточнена.
