Sagence: новая архитектура аналоговых вычислений в памяти для AI
Экономия энергии и снижение затрат
Компания Sagence AI представила передовую архитектуру аналоговых вычислений в памяти, разработанную для решения проблем энергопотребления, затрат и масштабируемости процессов AI-инференции. Этот подход позволяет добиться высокой энергоэффективности и экономичности, предоставляя производительность на уровне современных высокопроизводительных GPU и CPU систем.
Эффективность и производительность
Архитектура Sagence демонстрирует преимущества при обработке крупных языковых моделей. Новая технология обеспечивает свои результаты с в 10 раз меньшим энергопотреблением и в 20 раз меньшими затратами по сравнению с решениями, основанными на GPU.
Этот дизайн делает упор на инференцию, отражая смещение фокуса в вычислительных центрах. Sagence предлагает решение для растущей проблемы обеспечения возврата инвестиций в условиях масштабного развертывания AI-приложений благодаря своей эффективности и доступности.
Основное новшество Sagence заключается в технологии аналоговых вычислений в памяти, объединяющей хранение данных и вычисления внутри ячеек памяти. Это упрощает конструкции чипов, снижает затраты и повышает энергоэффективность. Использование глубоких подпороговых вычислений в многоуровневых ячейках памяти — ещё одно новшество для повышения эффективности AI-инференции.
Поддержка и развитие
Традиционные системы на основе CPU и GPU используют сложное динамическое планирование, что увеличивает аппаратные требования и энергопотребление. Статически планируемая архитектура Sagence делает эти процессы более простыми, имитируя биологические нейронные сети.
Система рассчитана на интеграцию с существующими AI-фреймворками, такими как PyTorch и TensorFlow. После импорта обученных нейронных сетей архитектура Sagence устраняет необходимость в дальнейшей обработке на базе GPU, упрощая внедрение и снижая затраты.
Цитата
«Фундаментальный прогресс в аппаратном обеспечении AI-инференции является критически важным для будущего AI. Использование крупных языковых моделей и генеративного AI требует быстрого и масштабного изменения, сочетающего высокую производительность с низким энергопотреблением и экономикой, которая соответствует создаваемой стоимости», — отметил Вишал Сарин, CEO и основатель Sagence AI.
Источник: TechRadar
