Производитель самого быстрого в мире AI-чипа вызывает ажиотаж благодаря интеграции DeepSeek
Cerebras заявила, что их решение будет работать в 57 раз быстрее, чем на GPU, но не уточнила, с какими именно GPU проводилось сравнение. DeepSeek R1 будет работать на облачной платформе Cerebras, и данные останутся в США.
Поддержка DeepSeek R1
Компания Cerebras объявила о поддержке модели рассуждений R1 70B в DeepSeek. Это произошло вслед за подтверждением от Groq и Microsoft о том, что они также перенесут эту модель на свои облачные платформы. AWS и Google Cloud еще не сделали подобных заявлений, однако модель с открытым исходным кодом может быть запущена на любой платформе, включая локальные решения.
Быстродействие и особенности
Специалист в области AI-чипов утверждает, что DeepSeek R1 70B будет работать со скоростью 1600 токенов в секунду, что в 57 раз быстрее, чем у любого провайдера R1 на GPU. Это указывает на то, что решения GPU достигают скорости примерно 28 токенов в секунду. Очевидно, самый новый чип Cerebras в 57 раз больше, чем H100.
Точность и безопасность
Исследования компании показывают, что DeepSeek точнее моделей OpenAI в нескольких тестах. Модель будет работать на оборудовании Cerebras в американских дата-центрах, что снимет опасения по поводу конфиденциальности данных. В то же время, приложение DeepSeek может отправлять данные в Китай, где они вероятно будут храниться. Это неудивительно, так как большинство приложений собирают пользовательские данные по легитимным причинам.
Технические характеристики WSE-3 и перспективы WSE-4
Чип WSE-3 от Cerebras, который является самым быстрым в мире, имеет почти миллион ядер и четыре триллиона транзисторов. Он оснащен 44 GB SRAM, самой быстрой доступной памятью, даже более быстрой, чем HBM на GPU от Nvidia. Поскольку WSE-3 представляет собой единый кристалл, его пропускная способность памяти значительно опережает показатели H100 и H200 от Nvidia.
Ожидания и будущее
Хотя стоимость еще не раскрыта, Cerebras ранее упоминала, что модель Llama 3.1 405B на их платформе будет стоить $6 за миллион входных токенов и $12 за миллион выходных. Ожидается, что стоимость DeepSeek будет значительно ниже. Следующее поколение, WSE-4, должно обеспечить значительное повышение производительности и ожидается к выпуску в 2026-2027 годах.
Появление DeepSeek, вероятно, приведет к усилению конкуренции, включая более известных участников рынка, таких как OpenAI и Anthropic, и может способствовать снижению цен в этой области.
Источник: TechRadar
