MWC 2018
2018
Computex
IFA 2018
В продажу поступил китайский конкурент систем на платформах Nvidia DGX Spark и AMD Ryzen AI Halo — компьютер Sipeed MaixStation. Мини-ПК работает на новом чипе Axera AX8860P со 128 Гбайт памяти LPDDR5X, подключённой по 256-битной шине с пропускной способностью 273 Гбайт/с. По утверждению разработчика, система обеспечивает высокую скорость локальной работы с системами искусственного интеллекта.
Источник изображений: sipeed.com
С учётом скидок на платформе Kickstarter ожидаемая цена ПК составит около $3999, что значительно дешевле Nvidia DGX Spark с базовой ценой $6950. Краудфандинговая кампания стартует в конце года, а поставки системы начнутся через три месяца после её завершения. Программные средства для работы со встроенным ИИ-ускорителем выйдут до конца ноября.
Платформа Axera AX8860P включает 16-ядерный процессор на архитектуре Arm Cortex-A55 и разработанный производителем нейропроцессор с производительностью 256 TOPS в формате FP4 без разрежения данных. Чип производится по 6-нм техпроцессу. При работе с моделью Qwen 3.8-27B система на 25 % быстрее выполняет предварительную обработку запросов и на 30 % быстрее генерирует ответы, чем Nvidia DGX Spark. Сравнение проводилось при использовании формата FP4 с отключённой функцией спекулятивного выполнения. В ходе более поздних тестов система Sipeed MaixStation проявила себя ещё лучше, но эти результаты пока не имеют статус официальных.
Для сравнения, DGX Spark предлагается в конфигурации со 128 Гбайт памяти с пропускной способностью 273 Гбайт/с по цене $6950, а версия с 64 Гбайт стоит от $4999. ПК на чипе AMD Ryzen AI Halo Max+ PRO 495 с 192 Гбайт памяти и пропускной способностью 273 Гбайт/с оценивается в $7299,99, а модель Max+ 395 со 128 Гбайт памяти и пропускной способностью 256 Гбайт/с — в $3999,99. Во всех случаях используется 256-битная шина памяти LPDDR5X. Значительную часть стоимости таких систем составляет память: ещё в августе минимальная цена комплекта DDR5 объёмом 128 Гбайт в США оценивалась в $3399. В текущем квартале, по оценкам аналитиков, она подорожает на 10–15 %.
В Sipeed уточнили, что при расчёте стоимости ПК учитывали актуальные цены. Снизить расходы можно, используя собственный SSD: здесь предусмотрен слот M.2 2280, в отличие от DGX Spark, где применяется менее распространённый формат M.2 2242. ПК на чипах Nvidia Spark поставляются с предустановленной ОС DGX — подготовленной Nvidia версией Ubuntu 24.04 LTS, включающей CUDA и стек для работы с ИИ. AMD также предлагает собственный набор компонентов: драйверы, модели, фреймворки и платформу ROCm. Ни в одном из случаев установка Windows 11 пока не предусмотрена, хотя такая возможность значится в планах.
Sipeed предлагает инструментарий для NPU и заявляет о поддержке vLLM, SGLang и PyTorch. Axera дополнительно отмечает совместимость с ONNX, форматами моделей Hugging Face и API, совместимым с OpenAI. ПК поставляется с ОС Debian 13 и ядром Linux 6.18. Поддержка Windows будет зависеть от спроса.
Axera AX8860P поддерживает интерфейс PCIe 5.0, декодирование 64 и кодирование 16 видеопотоков. Четыре таких чипа можно разместить на однослотовой плате PCIe и установить до 512 Гбайт памяти. На рынок также выйдут мини-ПК и карманные компьютеры на базе этого чипа. В двух- и четырёхчиповых конфигурациях можно добиться производительности 512 и 1024 TOPS соответственно при эффективности масштабирования около 80 %.
Сам ПК имеет размеры 11 × 11 × 3 см и потребляет 40 Вт при типичной нагрузке. Питание подаётся через USB Type-C. Среди доступных интерфейсов — 10G SFP+, дополнительный USB Type-C, слот M.2 2280 с поддержкой PCIe 5.0, а также MCIO 8i для подключения второго модуля. Поддерживаются конфигурации с одним, двумя и четырьмя узлами, а также режим с использованием плат PCIe в произвольном количестве. Для взаимодействия модулей применяется соединение типа C2C с пропускной способностью 256 Гбит/с, которую можно увеличить до 384 Гбит/с. Дополнительный коммутатор не требуется, в отличие от схемы объединения систем Nvidia DGX Spark через QSFP. Поддерживается подключение до восьми вычислительных узлов.
По предварительным оценкам, заявление производителя о возможности запускать модели с 27 млрд параметров выглядит правдоподобным. Такая модель занимает около 13,5 Гбайт памяти, а при пропускной способности около 270 Гбайт/с и 4-битном квантовании система сможет генерировать примерно 20 токенов в секунду. Nvidia DGX Spark при аналогичных условиях обеспечивает, по заявлению производителя, около 500 TFLOPS — примерно вдвое больше, чем 256 TOPS у чипа AX8860P.
В программный стек Axera входят компилятор NPU и инструментарий Pulsar2. На минувшей неделе он обновился до версии 8.0, а в документации к версии 7.0 уже упоминался чип AX8860. Среда выполнения ax-llm и драйвер PCIe AXCL пока не содержат упоминаний об этом чипе. Однако до конца месяца Sipeed обещает выпустить AXDSL — язык программирования для вычислительных ядер — и исходный код Pulsar2. Компания адаптировала SGLang и vLLM для работы с чипом через собственный бэкенд, чтобы запускать модели с Hugging Face напрямую, без конвертации.
Источник:
