Ультрабюджетные AI-станции с памятью 192 ГБ: две по цене одной Nvidia H100 от стартапа на RISC-V

Tenstorrent, стартап в области ИИ и процессоров на базе RISC-V, представил новое оборудование под названием Wormhole. Компания, возглавляемая легендарным архитектором чипов Джимом Келлером, реализовала первую модель Grayskull в марте 2024 года, которая стала альтернативой GPU.

Сейчас компания продолжает развивать свои технологии и выпустила две новые платы на базе Wormhole: n150s и n300s. Эти платы оснащены мощными и масштабируемыми процессорами Tensix Cores, включают вычислительный блок, сеть на кристалле, локальный кэш и «младшие RISC-V» ядра. Tenstorrent утверждает, что они обеспечивают превосходное соотношение цена/производительность и поддерживают широкий диапазон форматов данных.

Модель n150s содержит больше вычислительных ядер на ASIC (72 ядра Tensix), тогда как n300s оснащена двумя ASIC, в общей сложности 128 ядер (64 на каждую ASIC). Хотя компания продолжает продажу Dev Kit’ов Grayskull, она нацелена на полный переход к платформе Wormhole, которая будет заменена следующей моделью – Blackhole, в следующем году.

Рабочие станции на базе Wormhole

Помимо отдельных плат, Tenstorrent предлагает предварительно собранные AI-станции с конфигурациями от Intel и AMD:

• TT-LoudBox: Содержит два процессора Intel Xeon 4309Y, работающие на частотах 2.8-3.6 ГГц, 512 ГБ оперативной памяти и четыре платы n300s в конфигурации 2×4. Также оснащена 4 ТБ NVMe хранилищем и двумя 10 Гбит Ethernet портами. Цена — $12,000. В комплекте есть возможность установки в стойку.
• TT-QuietBox: Включает процессор AMD EPYC 8124P с 16 ядрами, работающий на частотах 2.4-3.0 ГГц, и четыре платы n300s с жидкостным охлаждением в конфигурации 2×4. Проектирована для условий с пониженным уровнем шума, не жертвуя производительностью. Оснащена 4 ТБ NVMe хранилищем и двумя 10 Гбит Ethernet портами. Стоимость — $15,000, также возможна установка в стойку.

Обе модели предназначены для профессионалов, нуждающихся в мощных и надежных вычислительных решениях. По словам представителей компании, благодаря наличию восьми ASIC в разработчицкой модели, их можно использовать как для одного разработчика, так и для нескольких.

(Изображение предоставлено: Tenstorrent)