はじめに
Promptimizerは、AIシステムのキュー・ワードを体系的に改善するために設計された、実験的なキュー・ワード最適化ライブラリです。最適化プロセスを自動化することで、Promptimizerは特定のタスクにおけるキュー・ワードのパフォーマンスを向上させることができます。ユーザは、最初のキューワード、データセット、カスタム評価者(オプションで人間のフィードバック付き)を提供するだけで、Promptimizerは、元のキューワードを上回るように設計された最適化されたキューワードを生成する最適化ループを実行します。
機能一覧
- キューワードの最適化:特定のタスクにおけるAIシステムのパフォーマンスを向上させるために、キューワードを自動的に最適化する。
- データセットのサポート:複数のデータセット形式をサポートし、ユーザーフレンドリーなキューワードの最適化を実現。
- カスタム評価項目: ユーザーは、キュー・ワードのパフォーマンスを定量化するためのカスタム評価項目を定義することができます。
- ヒューマンフィードバック:キューワードの最適化をさらに向上させるために、ヒューマンフィードバックがサポートされています。
- クイック・スタート・ガイド:クイック・スタート・ガイドが用意されています。
ヘルプの使用
取り付け
- まずCLIツールをインストールする:
pip install -U promptim
- あなたの環境に有効なLangSmith API Keyがあることを確認してください:
export LANGSMITH_API_KEY=あなたのAPI_KEY export ANTHROPIC_API_KEY=あなたのAPI_KEY
タスクの作成
- 最適化タスクを作成する:
promptim create task ./タスクを作成します。 --名前 my-tweet-task --prompt langchain-ai/tweet-generator-example-with-nothing:スターター ୧-͈ᴗ-͈. --dataset https://smith.langchain.com/public/6ed521df-c0d8-42b7-a0db-48dd73a0c680/d \ -description "任意のテーマについて、有益なツイートを書く。" ୧-͈ᴗ-͈) \ --y
このコマンドはタスク設定ファイルとタスクコードを含むディレクトリを生成する。
評価者の定義
- 生成されたタスク・ディレクトリを
task.py
ファイルで評価ロジックのセクションを見つけてください:score = len(str(predicted.content)) < 180
- 例えば、ラベルを含む出力にペナルティを課すなど、評価ロジックを変更する:
score = int("#" not in result)
電車
- トレーニングコマンドを実行して、キューワードの最適化を開始する:
promptim train --task ./my-tweet-task/config.json
トレーニングが完了すると、端末は最終的に最適化されたキューワードを出力する。
手動タグの追加
- 注釈キューを設定する:
promptim train ---task ./my-tweet-task/config.json --annotation-queue my_queue
- LangSmithのUIにアクセスし、手動ラベリング用の指定キューに移動します。