Значительное снижение стоимости API китайских генеративных ИИ
В последние месяцы китайские поставщики генеративных ИИ (GenAI) значительно снизили стоимость вывода своих API для больших языковых моделей (LLM) более чем на 90%. Эта стратегия направлена на упрощение внедрения GenAI в бизнесе.
Краткосрочные и долгосрочные последствия снижения цен
Краткосрочные последствия
В краткосрочной перспективе снижение цен на API LLM окажет ограниченное влияние на компании. Многие организации, уже внедрившие собственные GenAI-решения, не столкнутся с непосредственными изменениями из-за новых цен. Для тех, кто использует облачные решения, стоимость API составляет лишь часть общей стоимости решения GenAI. Ключевую роль играют такие факторы, как программное обеспечение для ИИ, готовность данных, управление, безопасность и человеческие ресурсы.
Долгосрочные последствия
В долгосрочной перспективе непрерывное снижение цен на API приведет к пересмотру стратегий разворачивания ИИ. Всё больше компаний будут принимать решение в пользу облачных решений из-за их низких начальных затрат, гибкости и возможности использовать широкий спектр инструментов и сервисов. Ожидается, что к 2027 году средняя стоимость API LLM снизится до менее 1% от текущих показателей.
Важность оценки полной стоимости и преимуществ
Чтобы максимально эффективно использовать инвестиции в генеративные ИИ, необходимо расставить приоритеты, исходя из ценности, рисков и возможностей моделей, а также из общей структуры затрат на решения GenAI. Важно идентифицировать конкретные случаи использования, где GenAI может принести наибольшую пользу, и оценить возможности разных моделей с учетом сопутствующих рисков. Помимо стоимости следует учитывать качество, производительность и задержку API LLM при выборе наилучшей модели для конкретных задач.
Сравнение облачных и локальных развёртываний
Постоянное снижение цен на API требует пересмотра стратегий развёртывания ИИ, с фокусом на преимущества и недостатки облачных и локальных решений. Облака всё чаще используются для размещения корпоративных нагрузок и данных, предоставляя такие возможности, как аналитика, ИИ/МЛ и платформы как услуга (PaaS). Локальные решения, хотя и остаются актуальными, могут столкнуться с трудностями в поддержании темпов инноваций.
Облачные решения предлагают высокие стандарты приватности и безопасности данных, хотя некоторые компании из-за регуляторных требований могут нуждаться в локальном хранении данных. Облачные провайдеры предоставляют разнообразные вычислительные ресурсы и контейнеризированную виртуализацию, что упрощает развертывание и оптимизацию моделей. Напротив, локальные решения требуют значительных инвестиций в ИИ-чипы и инфраструктуру.
Будущее и стратегические рекомендации
К 2027 году прогнозируется, что облачные инференс-нагрузки ИИ в Китае составят 80% от общего объёма, по сравнению с 20% в настоящее время. Этот сдвиг обусловлен постоянным снижением цен на API и преимуществами облачных решений. По мере развития технологий и усложнения архитектур преимущества облачных решений становятся всё более очевидными.
Необходимо пересмотреть стратегии развертывания LLM, оценивая плюсы и минусы облачных и локальных решений в контексте приоритетов и регуляторной среды. Используя облачные API LLM, анализируйте данные из пилотных проектов для оптимизации будущих стратегий развертывания. Выявляйте подходящие случаи использования облачных решений и оценивайте их гибкость, оперативность и экономичность. Текущая ценовая война между китайскими поставщиками LLM ускоряет переход ИИ к облачным решениям, и предприятия должны быть готовы адаптироваться к этой меняющейся среде.
Эта статья была подготовлена в рамках канала экспертного мнения TechRadarPro, где представлены лучшие умы в области технологий. Мнения, выраженные здесь, принадлежат автору и не обязательно отражают точку зрения TechRadarPro или Future plc.
Источник: TechRadar
