Laminar : plateforme open source d'ingénierie des produits d'IA pour faciliter la visualisation, le suivi et l'évaluation des données

Introduction générale

Laminar est une plateforme open source d'optimisation de l'ingénierie de l'IA, axée sur l'ingénierie de l'IA à partir des premiers principes. Laminar offre des capacités complètes d'observabilité, d'analyse de texte, d'évaluation et de gestion de la chaîne de repères pour aider les utilisateurs à créer et à optimiser des produits d'IA complexes. Qu'il s'agisse du suivi des données, de l'évaluation en ligne ou de la création d'ensembles de données, Laminar fournit un soutien puissant pour aider les utilisateurs à développer et à déployer efficacement l'IA.

Sa pile technologique open source moderne comprend Rust, RabbitMQ, Postgres, Clickhouse et bien d'autres choses encore, ce qui garantit des performances élevées et des frais généraux réduits. Les utilisateurs peuvent déployer rapidement avec Docker Compose ou profiter d'une fonctionnalité complète en utilisant une plateforme hébergée.

DEMO : https://www.lmnr.ai/

Liste des fonctions

• Suivi des donnéesLes données de l'application LLM : documenter chaque étape de l'exécution de l'application LLM et collecter des données précieuses pour une meilleure évaluation et une mise au point plus fine.
• Évaluation en lignePour ce faire, vous pouvez configurer LLM en tant qu'évaluateur ou utiliser un script d'évaluation Python pour chaque plage de temps reçue.
• Construction d'un ensemble de donnéesLes données de suivi permettent d'évaluer, d'affiner et d'encourager les travaux d'ingénierie.
• Gestion de la chaîne de repèresLes chaînes de repères complexes, y compris les pipelines LLM hybrides ou autoréflexifs, peuvent être construites et hébergées.
• Open source et auto-hébergementLe logiciel est entièrement open source, facilement auto-hébergé, et prêt à l'emploi avec seulement quelques commandes.

Utiliser l'aide

Processus d'installation

1. Clonage des dépôts GitHub :

   git clone https://github.com/lmnr-ai/lmnr
   

2. Accédez au catalogue de projets :

   cd lmnr
   

3. Démarrer avec Docker Compose :

   docker compose up -d
   

Guide d'utilisation des fonctions

Suivi des données

• initialisationImportation de Laminar dans le code et initialisation de la clé API du projet.

  from lmnr import Laminar, observe
  Laminar.initialize(project_api_key="...")
  

• fonction de commentaire: Utilisation@observeAnnoter les fonctions qui doivent être tracées.

  @observe()
  def my_function():
  ...
  

Évaluation en ligne

• Mise en place de l'évaluateurLe LLM peut être configuré pour agir en tant que juge ou utiliser un évaluateur de script Python pour évaluer et noter chaque portée reçue.

  # 示例代码
  evaluator = LLMJudge()
  evaluator.evaluate(span)
  

Construction d'un ensemble de données

• Création d'un ensemble de donnéesLes données de suivi permettent de construire des ensembles de données en vue d'une évaluation et d'une mise au point ultérieures.

  dataset = create_dataset_from_traces(traces)
  

Gestion de la chaîne de repères

• Construire une chaîne de repèresLes chaînes de repères complexes, y compris le mélange d'agents ou les pipelines LLM autoréflexifs, sont prises en charge.

  chain = PromptChain()
  chain.add_prompt(prompt)
  

auto-hébergé

• Les étapes de l'auto-hébergementPour commencer l'auto-hébergement avec seulement quelques commandes, assurez-vous que Docker et Docker Compose sont installés dans votre environnement.

  git clone https://github.com/lmnr-ai/lmnr
  cd lmnr
  docker compose up -d