Laminar: 손쉬운 데이터 시각화 추적 및 평가를 위한 오픈 소스 AI 제품 엔지니어링 플랫폼

10.2K 00

일반 소개

Laminar는 첫 번째 원칙에 입각한 AI 엔지니어링에 초점을 맞춘 오픈 소스 AI 엔지니어링 최적화 플랫폼입니다. 사용자가 데이터를 수집, 이해, 사용하여 LLM(대규모 언어 모델) 애플리케이션의 품질을 개선할 수 있도록 도와주며, Laminar는 포괄적인 관찰 가능성, 텍스트 분석, 평가 및 큐 체인 관리 기능을 제공하여 사용자가 복잡한 AI 제품을 구축하고 최적화할 수 있도록 지원합니다. 데이터 추적, 온라인 평가, 데이터 세트 구축 등 Laminar는 사용자가 효율적인 AI 개발 및 배포를 달성할 수 있도록 강력한 지원을 제공합니다.

최신 오픈 소스 기술 스택에는 Rust, RabbitMQ, Postgres, Clickhouse 등이 포함되어 있어 높은 성능과 낮은 오버헤드를 보장합니다. 사용자는 Docker Compose로 빠르게 배포하거나 호스팅 플랫폼을 사용하여 모든 기능을 이용할 수 있습니다.

데모: https://www.lmnr.ai/

기능 목록

데이터 추적LLM 애플리케이션 실행의 각 단계를 문서화하고 더 나은 평가와 미세 조정을 위해 귀중한 데이터를 수집합니다.
온라인 평가LLM을 평가자로 설정하거나 수신된 각 스팬에 대해 Python 스크립트 평가기를 사용합니다.
데이터 집합 구성엔지니어링을 평가, 미세 조정 및 촉구하기 위해 추적 데이터에서 데이터 세트를 구축합니다.
큐 체인 관리에이전트 하이브리드 또는 자체 반사적 LLM 파이프라인을 포함한 복잡한 큐 체인 구축 및 호스팅을 지원합니다.
오픈 소스 및 자체 호스팅완전 오픈 소스, 간편한 자체 호스팅, 몇 가지 명령만으로 바로 사용할 수 있습니다.

도움말 사용

설치 프로세스

GitHub 리포지토리 복제하기:

git clone https://github.com/lmnr-ai/lmnr

프로젝트 카탈로그로 이동합니다:
```
cd lmnr
```
Docker Compose로 시작했습니다:
```
docker compose up -d
```

기능 작동 가이드

데이터 추적

초기화코드에서 Laminar를 가져오고 프로젝트 API 키를 초기화합니다.
```
from lmnr import Laminar, observe
Laminar.initialize(project_api_key="...")
```
댓글 기능사용@observe추적해야 하는 함수에 주석을 달 수 있습니다.
```
@observe()
def my_function():
...
```

온라인 평가

평가자 설정LLM은 판사 역할을 하도록 설정하거나 Python 스크립트 평가기를 사용하여 수신된 각 스팬을 평가하고 태그를 지정할 수 있습니다.
```
# 示例代码
evaluator = LLMJudge()
evaluator.evaluate(span)
```

데이터 집합 구성

데이터 집합 만들기후속 평가 및 미세 조정을 위해 추적 데이터에서 데이터 세트를 구축합니다.
```
dataset = create_dataset_from_traces(traces)
```

큐 체인 관리

큐 체인 구축에이전트 믹싱 또는 자체 반사형 LLM 파이프라인을 포함한 복잡한 큐 체인 구축을 지원합니다.
```
chain = PromptChain()
chain.add_prompt(prompt)
```

자체 호스팅

셀프 호스팅 단계몇 가지 명령만으로 셀프 호스팅을 시작하려면 사용자 환경에 Docker 및 Docker Compose가 설치되어 있는지 확인하세요.
```
git clone https://github.com/lmnr-ai/lmnr
cd lmnr
docker compose up -d
```