AIパーソナル・ラーニング
と実践的なガイダンス

Observers:OpenAI互換のAPIリクエストデータを追跡するAI observabilityのための軽量ライブラリ

はじめに

ObserversはオープンソースのPython SDKで、ジェネレーティブAI APIに包括的な観測機能を提供するように設計されています。このライブラリを使うことで、ユーザーはAIモデルとのインタラクションを簡単に追跡・記録し、これらのオブザベーションを複数のバックエンドに保存することができます。OpenAIであろうと、OpenAI APIのメッセージフォーマットを実装している他のLLMプロバイダであろうと、オブザーバを効率的にモニタリングし、ログに記録することができます。DuckDBやHugging Faceデータセットのようなストレージバックエンドと統合することで、ユーザーはAIのインタラクションデータを簡単にクエリし、分析することができます。

Observers:OpenAI互換のAPIリクエストデータを追跡するAI observabilityのための軽量ライブラリ-1


 

機能一覧

  • ジェネレーティブAI APIモニタリングOpenAI APIメッセージフォーマットを実装するOpenAIやその他のLLMプロバイダーをサポートします。
  • 複数のバックエンドデータストレージDuckDB、Hugging Faceデータセット、その他多くのストレージバックエンドをサポート。
  • ドキュメント情報ウォッチDoclingとの統合により、PDF、DOCX、PPTX、XLSX、画像、HTML、AsciiDoc、Markdownなど複数のドキュメント形式をサポート。
  • オープンソースの遠隔測定サポートOpenTelemetry統合による複数の遠隔測定プロバイダーのサポート。
  • ユニファイドインターフェースAISuiteとLitellmを通じて統一されたLLM APIインターフェースを提供します。

 

ヘルプの使用

取り付け

まず、pipを使ってオブザーバーSDKをインストールします:

pip install observers

AISuiteやLitellmを通して他のLLMプロバイダーを使用したい場合は、以下のコマンドでインストールできます:

pip install observers[aisuite] # または observers[litellm].

文書情報を観察する必要がある場合は、Docling統合を使用できます:

pip install observers [docling]

オープンソースの遠隔測定サポートについては、以下をインストールすることができる:

pip install observers[opentelemetry].

利用する

オブザーバー・ライブラリーは、オブザーバーとストレージを区別する。オブザーバーは生成AI API(OpenAIやllama-indexなど)をパッケージ化し、それらのインタラクションを追跡する。一方、ストレージクラスは、これらのオブザベーションを別のストレージバックエンド(DuckDBやHugging Faceデータセットなど)に同期します。

サンプルコード

以下は、Observer Library を使ってリクエストを送信し、インタラクションをログに記録する方法を示す簡単なコード例です:

from observers.observers import wrap_openai
from observers.stores import DuckDBStore
from openai import OpenAI
store = DuckDBStore()
openai_client = OpenAI()
client = wrap_openai(openai_client, store=store)
response = client.chat.completions.create(
model="gpt-4o"、
messages=[{"role": "user", "content": "Tell me a joke." }], )
)

このコードはリクエストをサーバーレスエンドポイントに送り、デフォルトストレージのDatasetsStoreを使ってHubデータセットにインタラクションを記録する。データセットは個人のワークスペース(例:http://hf.co/{your_username})にプッシュされる。

コンフィギュレーション・ストレージ

別のストレージ・バックエンドを設定するには、以下の例を参照してください:

  • DuckDB ストレージデフォルトのストレージはDuckDBで、DuckDB CLIを使用して表示および照会できます。
  • ハグする顔のデータセット保存データセットは、Hugging Face Datasets Viewerを使用して表示および照会できます。
  • アルギラ・ストレージArgillaへの観測の同期を可能にする。
  • OpenTelemetryストレージOpenTelemetry対応プロバイダーへの観測値の同期を可能にする。
AIイージー・ラーニング

AIを始めるための素人ガイド

AIツールの活用方法を、低コスト・ゼロベースから学ぶことができます。AIはオフィスソフトと同様、誰にとっても必須のスキルです。 AIをマスターすれば、就職活動で有利になり、今後の仕事や勉強の労力も半減します。

詳細を見る
無断転載を禁じます:チーフAIシェアリングサークル " Observers:OpenAI互換のAPIリクエストデータを追跡するAI observabilityのための軽量ライブラリ

チーフAIシェアリングサークル

チーフAIシェアリングサークルは、AI学習に焦点を当て、包括的なAI学習コンテンツ、AIツール、実践指導を提供しています。私たちの目標は、高品質のコンテンツと実践的な経験の共有を通じて、ユーザーがAI技術を習得し、AIの無限の可能性を一緒に探求することです。AI初心者でも上級者でも、知識を得てスキルを向上させ、イノベーションを実現するための理想的な場所です。

お問い合わせ
ja日本語