프롬프트 마법사: 프롬프트 프로젝트를 최적화하여 작업 성능을 향상시키는 오픈 소스 프레임워크

일반 소개

프롬프트 마법사는 Microsoft에서 개발한 오픈 소스 프레임워크로, 모델이 스스로 프롬프트 단어와 생성된 예제를 생성, 평가, 개선하고 지속적인 피드백을 통해 출력 품질을 개선하는 자기 진화적 메커니즘을 사용합니다. 프롬프트를 자율적으로 최적화하고, 적절한 예시를 생성 및 선택하며, 추론 및 검증을 수행하여 최종적으로 고품질의 프롬프트를 출력함으로써 자동화된 프로세스를 통해 수동 프롬프트 엔지니어링의 업무량을 줄일 수 있습니다. 작업 의도와 전문가 역할의 개념 통합, 추론 최적화를 위한 연쇄적 접근 방식 사용, 성능 향상을 위한 긍정, 부정 및 합성 예제의 조합 등이 특징입니다. 다양한 도메인의 작업 요구 사항에 맞게 조정할 수 있고, 성능이 안정적이며, 다양한 규모의 여러 LLM을 지원합니다.

기능 목록

• 피드백 기반 최적화팁과 예제를 생성, 비판, 개선하여 작업 성과를 지속적으로 개선하세요.
• 다양한 예제 생성강력한 작업 인식 합성 예제 생성, 단서 및 예제 최적화.
• 적응형 최적화자체 진화 메커니즘을 통해 교육 및 컨텍스트 학습 예제를 최적화합니다.
• 멀티태스킹 지원여러 작업과 대규모 언어 모델에 적용하여 모델 정확도와 효율성을 개선하세요.
• 비용 효율적계산 비용을 대폭 절감하고 효율적인 팁 엔지니어링을 가능하게 합니다.

도움말 사용

설치 프로세스

1. 클론 창고::

   git clone https://github.com/microsoft/PromptWizard
cd PromptWizard

2. 가상 환경 만들기 및 활성화::
   • Windows: bash
python -m venv venv
venv\Scripts\activate

   • macOS/Linux: bash
python -m venv venv
source venv/bin/activate

3. 설치 관리자::

   pip install -e .

사용 가이드라인

프롬프트 마법사는 세 가지 주요 사용 방법을 제공합니다:

1. 예제 없는 프롬프트 최적화::
   • 최적화 단서가 필요하지만 학습 데이터가 없는 시나리오에 이상적입니다.
2. 합성 예제 생성 및 팁 최적화하기::
   • 예제 지원이 필요한 작업에 대한 합성 예제를 생성하여 프롬프트를 최적화하세요.
3. 트레이닝 데이터를 사용한 최적화 팁::
   • 풍부한 데이터를 지원하는 작업을 위해 기존 학습 데이터와 함께 큐를 최적화합니다.

구성 및 환경 변수 설정

1. 구성 파일::
   • 활용promptopt_config.yaml파일을 사용하여 구성을 설정합니다. 예를 들어 GSM8k 작업의 경우 이 파일을 사용하여 구성을 설정할 수 있습니다.
2. 환경 변수::
   • 활용.env파일을 사용하여 환경 변수를 설정할 수 있습니다. 예를 들어 GSM8k 작업의 경우 다음 변수를 설정할 수 있습니다: plaintext
AZURE_OPENAI_ENDPOINT="XXXXX" # 替换为你的Azure OpenAI端点
OPENAI_API_VERSION="XXXX" # 替换为API版本
AZURE_OPENAI_CHAT_DEPLOYMENT_NAME="XXXXX" # 创建模型部署并放置部署名称


워크플로

1. 사용 시나리오 선택::
   • 작업 요구 사항에 따라 적절한 사용 시나리오 선택(예제 최적화 없음, 합성 예제 최적화, 학습 데이터 최적화).
2. 구성 환경::
   • API 호출에 대한 구성 및 환경 변수를 설정합니다.
3. 운영 최적화::
   • 프롬프트 마법사를 실행하여 선택한 시나리오에 따라 프롬프트를 최적화합니다.

일반적인 예

다음은 프롬프트 마법사를 사용하여 프롬프트를 최적화하는 방법을 보여주는 간단한 예입니다:

from promptwizard import PromptWizard
# 初始化PromptWizard
pw = PromptWizard(config_file="promptopt_config.yaml")
# 选择场景并运行优化
pw.optimize_scenario_1()

이 단계를 통해 사용자는 대규모 언어 모델에서 작업 성능을 개선하기 위한 즉각적인 최적화를 위해 PromptWizard를 쉽게 설치하고 사용할 수 있습니다.