PromptWizard: фреймворк с открытым исходным кодом для оптимизации проектов подсказок с целью повышения эффективности выполнения заданий

Общее введение

PromptWizard - это фреймворк с открытым исходным кодом, разработанный компанией Microsoft, который использует механизм самоэволюции, позволяющий модели самостоятельно генерировать, оценивать и улучшать слова подсказок и сгенерированные примеры, а также повышать качество вывода благодаря непрерывной обратной связи. Она может автономно оптимизировать подсказки, генерировать и выбирать подходящие примеры, проводить обоснование и проверку, и в итоге выдавать высококачественные подсказки, снижая нагрузку на ручную разработку подсказок за счет автоматизации процессов. Среди особенностей - включение понятий намерения задачи и экспертных ролей, использование подхода "цепь разума" для оптимизации рассуждений, а также сочетание положительных, отрицательных и синтетических примеров для повышения эффективности работы. Система адаптируется к требованиям задач в различных областях, стабильна в работе и поддерживает множество LLM в различных масштабах.

Список функций

• Оптимизация на основе обратной связи: Постоянно улучшайте выполнение задач, генерируя, критикуя и улучшая советы и примеры.
• Разнообразное поколение примеровГенерирование надежных и учитывающих задачи синтетических примеров, оптимизация подсказок и примеров.
• Адаптивная оптимизация: Оптимизация примеров обучения и контекстного обучения с помощью самоэволюционного механизма.
• поддержка многозадачности: Применение к нескольким задачам и большим языковым моделям для повышения точности и эффективности моделирования.
• Экономически эффективный: Значительное снижение вычислительных затрат и эффективное проектирование наконечников.

Использование помощи

Процесс установки

1. склад клонов::

   git clone https://github.com/microsoft/PromptWizard
cd PromptWizard

2. Создание и активация виртуальной среды::
   • Окна: bash
python -m venv venv
venv\Scripts\activate

   • macOS/Linux: bash
python -m venv venv
source venv/bin/activate

3. установщик::

   pip install -e .

Руководство по использованию

PromptWizard предлагает три основных способа использования:

1. Оптимизируйте подсказку, чтобы не было примеров::
   • Идеально подходит для сценариев, в которых требуются подсказки для оптимизации, но нет данных для обучения.
2. Создание примеров синтеза и оптимизация подсказок::
   • Оптимизируйте подсказки, генерируя синтетические примеры для заданий, требующих поддержки примерами.
3. Оптимизация подсказок с использованием обучающих данных::
   • Оптимизация подсказок в сочетании с существующими обучающими данными для задач с богатой информационной поддержкой.

Настройки конфигурации и переменных окружения

1. файл конфигурации::
   • пользоватьсяpromptopt_config.yamlфайл для установки конфигурации. Например, для задачи GSM8k вы можете использовать этот файл для установки конфигурации.
2. переменная окружения::
   • пользоваться.envфайл для установки переменных окружения. Например, для задачи GSM8k можно установить следующие переменные: plaintext
AZURE_OPENAI_ENDPOINT="XXXXX" # 替换为你的Azure OpenAI端点
OPENAI_API_VERSION="XXXX" # 替换为API版本
AZURE_OPENAI_CHAT_DEPLOYMENT_NAME="XXXXX" # 创建模型部署并放置部署名称


рабочий процесс

1. Выбор сценариев использования::
   • Выбор подходящих сценариев использования в зависимости от требований задачи (оптимизация без примера, оптимизация синтетического примера, оптимизация обучающих данных).
2. Конфигурационная среда::
   • Задайте конфигурацию и переменные окружения для вызовов API.
3. Операционная оптимизация::
   • Запустите PromptWizard, чтобы оптимизировать подсказки в соответствии с выбранным сценарием.

типичный пример

Ниже приведен простой пример, показывающий, как оптимизировать подсказки с помощью PromptWizard:

from promptwizard import PromptWizard
# 初始化PromptWizard
pw = PromptWizard(config_file="promptopt_config.yaml")
# 选择场景并运行优化
pw.optimize_scenario_1()

Выполнив эти действия, пользователи смогут легко установить и использовать PromptWizard для оптимизации подсказок, чтобы улучшить производительность задач в больших языковых моделях.