MWC 2018
2018
Computex
IFA 2018
Supermicro начала продажу рабочей станции ARS-511GD-NB-LCC-01-G2 (PDF) на базе чипа Nvidia GB300 Grace Blackwell Ultra по цене $92 887,47 без учёта налогов и стоимости доставки. Компьютер примерно всемеро дороже, чем Apple Mac Studio на чипе M5 Ultra, который продаётся за $12 299.
Источник изображения: supermicro.com
Общий объём памяти рабочей станции Supermicro составляет 748 Гбайт против 256 Гбайт у Mac Studio. Платформа Nvidia распределяет свои 748 Гбайт памяти между 496 Гбайт системной на 72-ядерном процессоре Grace и 252 Гбайт памяти HBM3e на графической подсистеме Blackwell Ultra — машина позволяет локально запускать модели размером в несколько триллионов параметров. Для хранения данных используются два накопителя M.2 NVMe по 1,92 Тбайт и два по 960 Гбайт; присутствуют дополнительные слоты M.2 с поддержкой стандартов PCIe 5.0 и 6.0. Есть два 400-гигабитных порта Ethernet на сетевой карте Nvidia ConnectX-8 SuperNIC плюс выделенный порт LAN для удалённого администрирования. В наличии несколько портов USB, порт для подключения дисплея; для удалённой диагностики и мониторинга поддерживается IPMI.
Для формата чисел FP4 обеспечивается производительность до 20 Пфлопс — платформа втрое быстрее ускорителя H200. Возможна непрерывная работа агентов искусственного интеллекта со скоростью генерации до 1200 токенов в секунду. Имеются несколько вентиляторов и система жидкостного охлаждения; за электроснабжение отвечает блок питания мощностью 1600 Вт с эффективностью уровня Titanium 94%, что позволяет использовать систему в режиме высокой нагрузки. Масса рабочей станции составляет около 40 кг. Supermicro разработала её для исследовательских лабораторий и предприятий, которым необходим локальный запуск больших языковых моделей.
Источник:
