Cerebras: 현재 사용 가능한 세계에서 가장 빠른 AI 추론, 고성능 컴퓨팅 플랫폼

일반 소개

Cerebras는 인공 지능 및 고성능 컴퓨팅 분야의 발전에 전념하는 회사입니다. 핵심 제품으로는 세계에서 가장 빠른 AI 추론 플랫폼과 고성능 컴퓨팅 가속기가 있으며, 다국어 매크로 모델부터 의료 챗봇까지 다양한 모델을 훈련할 수 있고 고객이 자체 기본 모델을 훈련하거나 오픈 소스 모델을 미세 조정할 수 있도록 지원합니다.Cerebras의 기술은 상당한 속도와 비용 이점을 제공하며, 수백 명의 동시 사용자를 지원하고 높은 처리량과 저비용의 AI 추론 서비스를 제공합니다.

현재 그루크보다 빠른 라마 3.1 8B는 스도쿠의 경우 초당 최대 1800 토큰을 생성할 수 있으며, 70B는 450 토큰에 도달할 수 있습니다.

기능 목록

• AI 추론: 다양한 대규모 모델을 지원하는 세계에서 가장 빠른 AI 추론 서비스를 제공합니다.
• 고성능 컴퓨팅: 900,000개의 코어와 44GB의 온칩 메모리로 고성능 컴퓨팅 시스템의 성능을 재정의합니다.
• 모델 교육: 고객이 다양한 기본 모델을 교육하거나 오픈 소스 모델을 미세 조정할 수 있도록 지원합니다.
• 오픈 소스 지원: 대부분의 작업은 오픈 소스이며 커뮤니티 공유 및 협업을 지원합니다.

도움말 사용

설치 및 사용

Cerebras 플랫폼은 복잡한 설치 과정이 필요하지 않으며, 사용자는 공식 웹사이트를 통해 간단히 계정을 등록하고 로그인하여 AI 추론 및 HPC 서비스를 사용할 수 있습니다. 자세한 사용 방법은 다음과 같습니다:

1. 계정 등록하기Cerebras 웹사이트를 방문하여 오른쪽 상단의 '등록하기' 버튼을 클릭하고 관련 정보를 입력하여 등록을 완료합니다.
2. 계정에 로그인등록한 이메일과 비밀번호를 사용하여 Cerebras 플랫폼에 로그인합니다.
3. 서비스 선택플랫폼의 홈 페이지에서 AI 추론 또는 고성능 컴퓨팅 등 사용해야 하는 서비스 모듈을 선택합니다.
4. 데이터 업로드: 다양한 데이터 형식을 지원하며 프롬프트에 따라 처리할 데이터 파일을 업로드합니다.
5. 구성 매개변수이 플랫폼은 요구 사항에 따라 모델 학습 또는 추론을 위한 매개변수를 구성할 수 있는 다양한 사전 설정 옵션을 제공합니다.
6. 임무 시작'시작' 버튼을 클릭하면 플랫폼이 자동으로 작업을 처리하고 진행 상황을 실시간으로 표시합니다.
7. 결과 보기작업이 완료되면 사용자는 결과 페이지에서 자세한 처리 결과와 분석 보고서를 볼 수 있습니다.

기능 작동 흐름

1. AI 추론::
   • 'AI 추론' 모듈을 선택합니다.
   • 추론이 필요한 데이터 파일을 업로드합니다.
   • 사전 학습된 모델 또는 사용자 지정 모델 중 하나를 선택합니다.
   • 배치 크기, 동시 사용자 수 등과 같은 추론 매개변수를 구성합니다.
   • '추론 시작'을 클릭하면 플랫폼이 자동으로 추론 작업을 수행합니다.
   • 추론 결과 및 성능 메트릭을 확인합니다.
2. 고성능 컴퓨팅(HPC)::
   • 고성능 컴퓨팅 모듈을 선택합니다.
   • 계산할 데이터 파일을 업로드합니다.
   • 코어 수, 메모리 크기 등 계산 작업의 매개변수를 구성합니다.
   • '계산 시작'을 클릭하면 플랫폼이 자동으로 계산 작업을 수행합니다.
   • 계산 결과 및 성능 메트릭을 확인합니다.
3. 모델 교육::
   • 모델 트레이닝 모듈을 선택합니다.
   • 트레이닝 데이터 세트를 업로드합니다.
   • 사전 학습된 모델 또는 사용자 지정 모델 중 하나를 선택합니다.
   • 학습 속도, 훈련 라운드 수 등과 같은 훈련 매개변수를 구성합니다.
   • '훈련 시작'을 클릭하면 플랫폼이 자동으로 모델 훈련을 수행합니다.
   • 교육 결과 및 모델 성능을 확인합니다.

Cerebras 플랫폼은 간단하고 직관적인 인터페이스를 갖추고 있어 사용자가 쉽게 시작할 수 있습니다. 또한 사용자가 사용 중 발생하는 문제를 해결하는 데 도움이 되는 자세한 문서와 기술 지원도 제공합니다.