Meta выпускает Llama 3.2: представляем следующее поколение малых языковых моделей 1B и 3B

Компания Meta недавно выпустила свою новейшую языковую модель Llama 3.2, которая еще больше расширяет сферу применения своей технологии искусственного интеллекта. В новой версии представлены модели меньшего размера с параметрами 1B (миллиард) и 3B (три миллиарда), призванные удовлетворить потребности более широкого круга пользователей, особенно в условиях ограниченных ресурсов.

В Llama 3.2 не только оптимизировано количество параметров, но и применена техника квантования Q4_K_M, которая значительно снижает требования к хранению модели, обеспечивая лучший баланс между производительностью и эффективностью. Этот инновационный архитектурный дизайн позволяет разработчикам гибко развертывать Llama 3.2 в различных сценариях применения, будь то мобильные устройства или облачные вычислительные платформы.

Поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский - все официально поддерживаются.

Напротив, две версии Llama 3.2 Small (11B) и Medium (90B) - это модели, поддерживающие мультимодальные возможности и опережающие Claude 3 Haiku с закрытым исходным кодом в задаче понимания изображений.

Рекомендуемые обновления для быстрой работы оллама и испытать параметрическую модель 3B, которая очень устойчива в таких заданиях, как следование инструкциям, обобщение, переписывание и использование инструментов. В то же время GROQ Параметрическая модель 90B теперь доступна для ознакомления в режиме онлайн.

Этот релиз знаменует собой продолжение инноваций Meta в области искусственного интеллекта, и ожидается, что запуск Llama 3.2 предоставит разработчикам и предприятиям еще больше возможностей для продвижения и разработки приложений всех видов.

бенчмаркинг