AMD Instinct MI300X: Мощный ускоритель для ИИ
AMD Instinct MI300X – это впечатляющий ускоритель для задач искусственного интеллекта. Он построен на третьем поколении архитектуры CDNA компании и использует передовые 5нм и 6нм процессы TSMC. Характеристики устройства включают 19 456 потоковых процессоров, 192 ГБ HBM3 памяти, 304 вычислительных блока, 1 216 матричных ядер и тепловую мощность (TDP) в 750 ватт. В одном из первых контрольных тестов это устройство значительно превзошло Nvidia RTX 4090.
Внедрение в облачные технологии
Компания Vultr, ведущая частная платформа облачных вычислений, объявила о планах интеграции высокопроизводительного оборудования AMD в свою масштабируемую облачную инфраструктуру. Цель заключается в более эффективном управлении рабочими нагрузками, ускоренными графическими процессорами, обеспечивая бесперебойную работу как в центрах обработки данных, так и на периферии вычислений.
Комментарий компании Vultr
Генеральный директор Vultr, Дж. Дж. Кардуэлл, отметил: «Инновации процветают в открытой экосистеме. Будущее корпоративных задач ИИ заключено в открытых средах, которые обеспечивают гибкость, масштабируемость и безопасность. Ускорители AMD предоставляют нашим клиентам непревзойденное соотношение цены и производительности. Баланс высокой памяти и низких энергопотребностей способствует устойчивым усилиям и дает нашим клиентам возможность эффективно продвигать инновации и рост посредством ИИ».
Совместная работа AMD и Vultr
Сотрудничество Vultr и AMD позволяет предприятиям получить доступ к первоклассной среде для разработки ИИ. Архитектура AMD вместе с платформой Vultr позволит компаниям работать с открытым исходным кодом, предварительно обученными моделями, упрощая разработку проектов ИИ.
По словам Негина Оливера, вице-президента по развитию бизнеса в подразделении Data Center GPU компании AMD, «мы гордимся нашим сотрудничеством с Vultr. Ее облачная платформа разработана для управления высокопроизводительными задачами обучения и вывода ИИ и обеспечения улучшенной общей эффективности».
Оптимизация инфраструктуры
Это партнерство также оптимизирует инфраструктуру Vultr для кластеров Kubernetes с ускорением графических процессоров, способных обрабатывать сложные рабочие нагрузки по всему миру. Количество заказанных единиц Instinct MI300X не разглашается, однако известно, что первый кластер включает в себя тысячи устройств.
Источник: TechRadar