메타, Llama 3.2 출시: 차세대 1B 및 3B 소규모 언어 모델 소개

Meta는 최근 최신 언어 모델인 Llama 3.2를 출시하여 AI 기술의 범위를 더욱 확장했습니다. 이 새 버전은 특히 리소스가 제한된 환경에서 더 많은 사용자의 요구를 충족하기 위해 10억 개 및 30억 개 매개변수를 가진 더 작은 모델을 도입했습니다.

Llama 3.2는 매개변수 수를 최적화할 뿐만 아니라 모델의 스토리지 요구 사항을 크게 줄여 성능과 효율성 간의 균형을 맞추는 Q4_K_M 양자화 기법을 채택하고 있습니다. 이 혁신적인 아키텍처 설계 덕분에 개발자는 모바일 기기나 클라우드 컴퓨팅 플랫폼 등 다양한 애플리케이션 시나리오에 유연하게 Llama 3.2를 배포할 수 있습니다.

지원 언어: 영어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 힌디어, 스페인어, 태국어가 공식적으로 지원됩니다.

반면, Llama 3.2 Small(11B)과 Medium(90B) 두 버전은 멀티모달 기능을 지원하는 모델로, 이미지 이해 작업에서 클로즈 소스인 Claude 3 Haiku를 능가합니다.

빠른 환경을 위한 권장 업데이트 ollama 를 통해 지침 따르기, 요약, 신속한 재작성, 도구 사용과 같은 작업에서 매우 안정적인 3B 매개변수 모델을 경험해 보세요. 동시에 GROQ 이제 90B 파라메트릭 모델을 온라인에서 체험할 수 있습니다.

이번 출시는 Meta의 지속적인 AI 혁신을 기념하는 것으로, Llama 3.2의 출시는 개발자와 기업에게 모든 종류의 애플리케이션을 발전시키고 개발할 수 있는 더 많은 가능성을 제공할 것으로 기대됩니다.

벤치마킹