Непреодолимая потребность в генеративном ИИ стимулирует рост нового типа сетевой модели: «сетевое взаимодействие на периферии».
Рост периферийных дата-центров
Глобальное развитие периферийных дата-центров, размещаемых ближе к конечным пользователям, обусловлено необходимостью обеспечивать оперативность работы и низкие задержки приложений генеративного ИИ. Аналитическая компания IDC прогнозирует, что расходы на периферийные вычисления достигнут 232 миллиардов долларов в 2024 году, что на 15,4% больше по сравнению с 2023 годом.
Преимущества периферийных дата-центров
Периферийные дата-центры – это небольшие вычислительные узлы, входящие в состав распределенной сети ЦОДов. Их расположение рядом с обслуживаемыми регионами значительно сокращает задержки и улучшает производительность приложений, требующих обработки данных в реальном времени. Такой децентрализованный подход также помогает сбалансировать нагрузки, обеспечивает стабильный поток данных в случае сбоев и повышает общую устойчивость сети.
Поддержка генеративного ИИ
Аргументы в пользу периферийных вычислений
Генеративные ИИ-приложения требуют значительных вычислительных мощностей и объема данных. Периферийные вычисления решают эти технические задачи, обеспечивая моментальное принятие решений с минимальными задержками, локальным хранением и обработкой данных, а также снижением объема передаваемой информации в облако. Это особенно актуально для задач интерференции и локализованной обработки данных.
Ультранизкие задержки для генеративного ИИ
С ростом потребности в ускоренной обработке данных существующие и новые приложения будут требовать сверхнизких задержек в сети. Чем критичнее к времени приложение, тем ближе к источнику данных оно должно обрабатываться. Примером может служить интерференция ИИ (использование модели ИИ для получения выводов из новых данных). Обработка данных на периферии позволяет сократить время получения результата с нескольких секунд до долей секунды.
Аргумент в пользу устойчивости
Проблемы с энергопотреблением
Недавняя статья TechRadarPro высказала мнение, что современные центры обработки данных едва справляются с текущим спросом из-за роста ИИ. Именно поэтому необходимо строить дата-центры на периферии, вне центральных локаций. Например, одна запрос в ChatGPT требует почти в десять раз больше электроэнергии, чем поиск в Google. Несмотря на резкое увеличение энергозатрат на генеративный ИИ, периферийные дата-центры могут сокращать нагрузку на электроэнергетические сети в центральных локациях. Распределение вычислительных задач по сети позволяет избежать концентрированной нагрузки на один участок.
Инвестиции в сети, готовые к ИИ
Развитие высокоскоростного подключения
Инвестиции в высокоскоростные соединения помогут более эффективно и устойчиво организовать работу периферийных узлов сети. Оптоволоконные кабели обеспечивают значительно более низкие задержки и большую пропускную способность по сравнению с традиционными медными кабелями, что позволяет ускорить передачу данных. Дополнительно, оптоволоконные сети легче масштабируются, что позволяет добавлять пропускную способность без значительных изменений в инфраструктуре. Они также потребляют меньше энергии, что снижает эксплуатационные расходы и уменьшает углеродный след.
Ключ к успешному ИИ
Развитие сетевой инфраструктуры
Для успешного развития ИИ страны должны уделять внимание улучшению фиксированной сетевой инфраструктуры и способности сетей обрабатывать большие объемы данных с минимальными задержками. Стратегии развития ИИ должны сосредоточиться на размере, расположении и качестве базовой сетевой инфраструктуры. Строительство традиционных ЦОДов необходимо дополнить строительством периферийных дата-центров для удовлетворения потребностей ИИ.
Гибридная модель
Сбалансированный подход
Гибридный подход, включающий стратегически расположенные дата-центры на периферии сети в сочетании с центральными ЦОДами, будет необходим для эффективного и устойчивого управления быстрыми потоками информации. Для задач, требующих быстрой обработки данных, лучшим решением будет размещение на периферии, тогда как объемные и менее критичные по времени задачи лучше обрабатывать в центральных дата-центрах.
Крупные компании, такие как Microsoft, взяли курс на значительное увеличение пропускной способности своих дата-центров для работы с ИИ. Необходимо учитывать необходимость интеграции периферийных дата-центров в общие стратегии для удовлетворения низколатентных требований генеративного ИИ и разгрузки центральных энергосетей.
Источник: TechRadar
