Meta выпустила самую крупную открытую AI-модель Llama 3.1
В апреле Meta намекнула, что работает над уникальной для индустрии ИИ открытой моделью, производительность которой сопоставима с лучшими частными моделями от таких компаний, как OpenAI.
Сегодня эта модель выходит в свет. Meta представляет Llama 3.1, крупнейшую открытую AI-модель, которая, по утверждению компании, превосходит GPT-4o и Claude 3.5 Sonnet. Компания также расширяет доступность помощника на основе Llama в большее количество стран и языков и добавляет функционал генерации изображений по подобию конкретного человека. Генеральный директор Марк Цукерберг предсказывает, что Meta AI станет самым популярным помощником до конца года, опередив ChatGPT.
Особенности Llama 3.1
Llama 3.1 значительно сложнее предыдущих версий моделей Llama 3. Самая крупная версия содержит 405 миллиардов параметров и была обучена с использованием более 16,000 дорогостоящих GPU H100 от Nvidia. Meta не раскрывает стоимость разработки модели, но предполагается, что эта сумма составляет сотни миллионов долларов, учитывая цены на чипы Nvidia.
Стратегия Meta по открытому исходному коду
Несмотря на высокие затраты, Meta продолжает предоставлять Llama с лицензией, требующей одобрения только от компаний с сотнями миллионов пользователей. В письме, опубликованном на корпоративном блоге Meta, Цукерберг утверждает, что модели с открытым исходным кодом будут развиваться быстрее, чем проприетарные, как это произошло с операционной системой Linux, которая управляет большинством современных устройств.
Цукерберг сравнивает инвестиции Meta в открытый исходный код AI с Open Compute Project, что позволило компании сэкономить миллиарды благодаря участию сторонних компаний в улучшении и стандартизации дизайнов дата-центров.
Для продвижения Llama 3.1, Meta сотрудничает с более чем двумя десятками компаний, включая Microsoft, Amazon, Google, Nvidia и Databricks. Meta утверждает, что эксплуатационные расходы Llama 3.1 примерно в два раза ниже, чем у GPT-4o от OpenAI.
Недостаток информации о данных
Meta не предоставляет подробной информации о данных, использованных для обучения Llama 3.1. Компании, работающие в области ИИ, не раскрывают такие данные, ссылаясь на коммерческую тайну, а критики считают, что это способ избежать многочисленных судебных процессов по нарушениям авторских прав.
Известно, что версия Llama 3.1 с 405 миллиардами параметров использует синтетические данные для улучшения моделей, содержащих 70 миллиардов и 8 миллиардов параметров. Вице-президент Meta по генеративному ИИ Ахмад Аль-Дале предсказывает, что Llama 3.1 будет популярна среди разработчиков.
Будущее отрасли и роли Llama 3.1
Для первой версии Llama 3.1 Meta провела тестирование возможных кибербезопасных и биохимических сценариев использования. Meta также изучает новые «агентические» поведения модели, что позволяет ей интегрироваться с API поисковых систем и выполнять сложные запросы.
Помощник Meta AI, на базе Llama, будет интегрирован практически во все приложения компании, включая Instagram, Facebook и WhatsApp. Сначала доступ к Llama 3.1 появится в WhatsApp и на сайте Meta AI в США, а затем и на других платформах компании.
Новые функции и ограничения
Новая функция «Imagine Me» в Meta AI позволяет вставлять ваш образ в сгенерированные изображения. Также Meta AI придет на шлем Quest, заменив текущую систему голосовых команд.
Хоть самая продвинутая версия Llama 3.1 с 405 миллиардами параметров предоставляется бесплатно в Meta AI, помощник переключит вас на более упрощенную модель с 70 миллиардами параметров после определенного количества запросов в неделю.
Наконец, несмотря на амбициозные прогнозы Цукерберга, Meta еще не опубликовала данные о количестве пользователей своего помощника. Ахмад Аль-Дале считает, что индустрия находится на раннем этапе пути к продуктово-рыночному соответствию.
Таблицы, иллюстрации и подробности можно найти на официальной странице Meta.
Источник: Meta
Источник: The Verge
