Awex - Ant Group 오픈 소스 고성능 가중치 교환 프레임워크

Awex란 무엇인가요?

Awex는 강화 학습에서 대규모 파라미터 동기화를 위해 설계된 Ant Group의 고성능 가중치 교환 프레임워크 오픈 소스입니다. Awex는 테라바이트 수준의 파라미터 교환을 몇 초 만에 완료하여 훈련 및 추론의 효율성을 크게 향상시킬 수 있으며, 수천 개의 카드 클러스터에서 수조 개의 파라미터 모델을 전체 동기화 후 6초 이내에 완료할 수 있는 매우 빠른 동기화 성능을 갖추고 있습니다. Awex는 제로 중복 전송 및 제자리 업데이트를 지원하며 메모리 복사 오버헤드를 줄이기 위해 필요한 슬라이스만 전송하고, 하드웨어 대역폭을 최대한 활용하기 위해 NCCL, RDMA 및 공유 메모리와 같은 여러 전송 모드를 지원합니다. 이기종 배포와 호환되고 공통 카드 및 분할 카드 모드를 지원하며 다양한 교육 시나리오에 맞게 조정할 수 있습니다.

Awex의 특징

• 매우 빠른 동기화 성능대규모 클러스터 환경에서 테라바이트 규모의 파라미터 동기화를 빠르게 완료하여 강화 학습 훈련 및 추론의 효율성을 크게 향상시킬 수 있으며, 예를 들어 천 개의 카드 클러스터에서 1조 개의 파라미터 모델을 6초 만에 전체 볼륨과 동기화할 수 있습니다.
• 통합 모델 적응 계층(UMAL)다양한 학습 및 추론 엔진 간의 Tensor 형식 및 레이아웃 차이를 자동으로 처리하고, 여러 모델 아키텍처를 지원하며, 개발 및 배포의 복잡성을 줄입니다.
• 제로 중복 전송 및 현장 업데이트필요한 파라미터 슬라이스만 전송하면 추론 측에서 비디오 메모리를 제자리에서 업데이트하여 비디오 메모리 재할당 및 복사의 오버헤드를 방지하고 리소스 활용의 효율성을 개선합니다.
• 멀티 모드 전송 지원NCCL, RDMA, 공유 메모리 등 다양한 전송 모드와 호환되어 다양한 하드웨어의 대역폭 이점을 최대한 활용하면서 롱테일 지연 시간을 줄이고 전반적인 전송 성능을 향상시킵니다.
• 이기종 배포 호환성일반 카드 및 분할 카드 모드를 지원하며, 동기 및 비동기 강화 학습 알고리즘의 훈련 시나리오에 맞게 조정하여 다양한 배포 요구 사항을 충족합니다.
• 유연한 플러그형 아키텍처다양한 모델에 대한 맞춤형 가중치 공유 및 레이아웃 동작을 지원하며, 뛰어난 확장성과 유연성으로 새로운 학습 및 추론 엔진에 액세스할 수 있습니다.

Awex의 핵심 강점

• 고성능 동기화대규모 클러스터에서 초당 테라바이트 수준의 파라미터 동기화를 달성하여 강화 학습 훈련 및 추론의 효율성을 크게 개선합니다(예: 킬로 칼로리 클러스터에서 조 단위의 파라미터 모델을 6초 이내에 전체 볼륨으로 동기화할 수 있음).
• 높은 호환성다양한 학습 및 추론 엔진에 맞게 Tensor 형식과 레이아웃을 자동으로 조정하고, 여러 모델 아키텍처를 지원하며, 개발 및 배포의 복잡성을 줄여줍니다.
• 효율적인 전송슬라이싱에 필요한 파라미터만 전송하면 추론 측에서 비디오 메모리를 제자리에서 업데이트하여 비디오 메모리 재할당 및 복사 오버헤드를 방지하고 리소스 활용 효율을 개선합니다.
• 멀티 모드 전송 지원롱테일 지연 시간을 줄이면서 하드웨어 대역폭을 최대한 활용할 수 있도록 NCCL, RDMA, 공유 메모리 등 다양한 전송 모드와 호환됩니다.
• 유연한 아키텍처사용자 지정 가중치 공유 및 레이아웃 동작을 지원하여 우수한 확장성과 유연성으로 새로운 학습 및 추론 엔진에 액세스할 수 있습니다.

Awex의 공식 웹사이트는 무엇인가요?

• 깃허브 리포지토리:: https://github.com/inclusionAI/asystem-awex

Awex의 대상

• 딥러닝 및 강화 학습 연구원대규모 클러스터를 효율적으로 훈련하고 추론해야 하는 연구자, 특히 대규모 파라메트릭 모델을 사용하는 팀은 Awex를 통해 생산성을 크게 향상시킬 수 있습니다.
• 인공 지능 엔지니어기업이나 조직에서 강화 학습 시스템을 개발하고 배포하는 엔지니어를 위해 Awex는 모델 학습과 추론을 신속하게 동기화하여 시스템 성능을 최적화할 수 있도록 지원합니다.
• 클라우드 컴퓨팅 및 데이터 센터 운영자대규모 컴퓨팅 리소스를 관리하는 팀, Awex의 효율적인 매개변수 동기화 기능은 리소스 활용을 최적화하고 데이터센터의 전반적인 운영 효율성을 개선합니다.
• 고성능 컴퓨팅(HPC) 개발자대규모 데이터와 복잡한 계산 작업을 처리해야 하는 전문가를 위해 Awex의 멀티모달 전송과 유연한 아키텍처는 고성능 컴퓨팅 환경의 요구 사항을 충족합니다.