Laminar: платформа для разработки продуктов ИИ с открытым исходным кодом для простой визуализации данных, отслеживания и оценки

Новости ИИОбновлено 9 месяцев назад Круг обмена ИИ

7.7K 00

Общее введение

Laminar - это платформа для оптимизации ИИ-инженерии с открытым исходным кодом, ориентированная на ИИ-инженерию с первых принципов. Она помогает пользователям собирать, понимать и использовать данные для повышения качества приложений LLM (Large Language Model). Laminar предоставляет комплексные возможности наблюдения, текстового анализа, оценки и управления цепочками подсказок для поддержки пользователей в создании и оптимизации сложных продуктов ИИ. Будь то отслеживание данных, онлайн-оценка или создание наборов данных, Laminar предоставляет мощную поддержку, чтобы помочь пользователям достичь эффективной разработки и внедрения ИИ.

Современный стек технологий с открытым исходным кодом включает Rust, RabbitMQ, Postgres, Clickhouse и другие, обеспечивая высокую производительность и низкие накладные расходы. Пользователи могут быстро развернуть систему с помощью Docker Compose или воспользоваться полной функциональностью, используя хостинговую платформу.

DEMO: https://www.lmnr.ai/

Список функций

Отслеживание данных: Документируйте каждый шаг выполнения приложения LLM и собирайте ценные данные для более точной оценки и настройки.
Онлайн-оценка: Настройте LLM в качестве оценщика или используйте скрипт Python, оценивающий каждый полученный пролет.
Создание набора данных: Создание наборов данных на основе данных слежения для оценки, тонкой настройки и подсказки при проектировании.
Управление цепочкой киев: Поддержка построения и размещения сложных цепочек реплик, включая гибридные или саморефлексивные конвейеры LLM для агентов.
Открытый исходный код и самостоятельное размещение: Полностью открытый исходный код, легко размещается на хостинге и готов к работе с помощью всего нескольких команд.

Использование помощи

Процесс установки

Клонирование репозиториев GitHub:
```
git clone https://github.com/lmnr-ai/lmnr
```
Перейдите в каталог проектов:
```
cd lmnr
```
Начало работы с Docker Compose:
```
docker compose up -d
```

Руководство по эксплуатации функций

Отслеживание данных

инициализация: Импортируйте Laminar в код и инициализируйте API-ключ проекта.
```
from lmnr import Laminar, observe
Laminar.initialize(project_api_key="...")
```
функция комментария: Использование@observeОтметьте функции, которые необходимо проследить.
```
@observe()
def my_function():
...
```

Онлайн-оценка

Настройка оценщикаLLM может быть настроен на работу в качестве судьи или использовать скрипт Python для оценки и маркировки каждого полученного пролета.
```
# 示例代码
evaluator = LLMJudge()
evaluator.evaluate(span)
```

Создание набора данных

Создание набора данных: Создание наборов данных из данных отслеживания для последующей оценки и тонкой настройки.
```
dataset = create_dataset_from_traces(traces)
```

Управление цепочкой киев

Постройте цепочку подсказок: Поддержка построения сложных цепочек подсказок, включая смешивание агентов или саморефлексивные конвейеры LLM.
```
chain = PromptChain()
chain.add_prompt(prompt)
```

самостоятельный хостинг

Самостоятельные шаги: Чтобы начать самостоятельное создание хостинга с помощью всего нескольких команд, убедитесь, что в вашей среде установлены Docker и Docker Compose.
```
git clone https://github.com/lmnr-ai/lmnr
cd lmnr
docker compose up -d
```