6-недельное обучение, чтобы стать экспертом по разработке кия (перевод)

представить (кого-л. на работу и т.д.)

По мере того как область искусственного интеллекта (ИИ) продолжает развиваться, инженерия реплик становится перспективной профессией. Сегодня многие люди стремятся приобрести навыки эффективного взаимодействия с большими языковыми моделями (LLM). Разделяете ли вы это стремление? Думаете, с чего начать и как действовать дальше? Мы предлагаем вам этот учебный курс, который поможет вам стать экспертом в области оперативной инженерии. Это всеобъемлющее руководство призвано помочь вам шаг за шагом освоить проектирование подсказок, начиная с основ и заканчивая продвинутыми техниками. Независимо от того, являетесь ли вы новичком или опытным специалистом, этот структурированный путь обучения даст вам знания и практические навыки, необходимые для освоения LLM.

в общих чертах

• Поймите, что такое проект кия.
• Узнайте, как освоить оперативное проектирование за 6 недель.
• Узнайте, что нужно учить каждую неделю и как тренироваться.

каталог (на жестком диске компьютера)

1. Неделя 1: Введение в разработку кия
2. Неделя 2: Настройка LLM на подсказки
3. Неделя 3: Написание эффективных предложений
4. Неделя 4: Понимание шаблонов подсказок
5. Неделя 5: Советы по продвижению
6. Неделя 6: Продвинутые стратегии подталкивания
7. общие проблемы

Неделя 1: Введение в разработку кия

В течение первой недели путешествия Prompt Engineering Journey сосредоточьтесь на следующих темах

Что такое проект Tip?

• Поймите концепцию инженерии реплик в НЛП и ее важность.
• Понять, как составлять эффективные подсказки и как они влияют на результаты языкового моделирования.
• Узнайте об историческом прошлом и эволюции кия, а также о том, как он менялся с течением времени.

Как работает LLM?

• Изучите основы LLM и поймите, как это работает, простым, нетехническим языком.
• Узнайте, как обучается и работает LLM, понимая это на простых аналогиях и примерах.
• Узнайте о различных LLM, таких как GPT-4o, Llama и Mistral, их уникальных особенностях и сценариях применения.

Роль инженерной мысли

• Разберитесь в должностных инструкциях и специфических навыках, необходимых для таких должностей, как Tip Engineer, Data Scientist и других.
• Узнайте о практическом применении кий-инжиниринга через реальные проекты и примеры заданий.

Практическое применение кия

• Исследование демонстрирует примеры успешного применения кий-инжиниринга в различных отраслях.
  Пример:LLM на рабочем месте: тематическое исследование использования техники подсказок для категоризации должностей.
• Обсудите влияние инженерии подсказок на производительность моделей ИИ и поймите, как она может повысить эффективность этих моделей.

применять на практике

1. Изучите диаграммы LLM: Узнайте о различных бенчмарках, таких как MMLU-Pro, HuamnEval, Chatbot Arena и других. Изучите различные графики LLM и узнайте о текущих ведущих моделях в различных бенчмарках.
   Пример:Обнимая пространство лица для open-llm-leaderboard, иРейтинг LLM | Искусственный анализ
2. Определите ключевые навыки и проанализируйте советы на примерах из практики инженеров: Начните с определения общих навыков и квалификации, необходимых для инженеров-подсказчиков, изучив должностные инструкции и профессиональные профили. Изучите и обобщите практическое применение инженеров-подсказчиков в различных отраслях промышленности, уделяя особое внимание тому, как разрабатываются подсказки и каких результатов они достигают.
   Пример:Пример из практики - проект Tip, иВлияние генеративного ИИ на 13 реальных примеров использования.

Неделя 2: Создание большой языковой модели для подсказок

На этой неделе мы узнаем, как настроить Большую языковую модель (LLM) для получения подсказок различными способами. Пользователи могут использовать любой из перечисленных методов.

Доступ непосредственно на сайте LLM

• Узнайте, как использовать эти модели непосредственно через веб-платформу LLM.
• Узнайте, как создать учетную запись и как ориентироваться в интерфейсе популярной платформы Big Language Modelling.

Локальный запуск LLM с открытым исходным кодом

• Изучите процесс настройки LLM с открытым исходным кодом (например, Llama3, Mistral, Phi3 и т.д.) для запуска на локальной машине, используя Hugging Face или Оллама и msty.app или Open WebUI.
• Понять требования к аппаратному и программному обеспечению различных LLM с открытым исходным кодом.

Программный доступ через API

• Узнайте, как подписаться на доступ к API. Например, предоставление API-доступа к LLM через платформу, таким как GPT-4o, Claude, Gemini и т. д., а также использование Hugging Face Inference API для доступа к моделям Llama, Phi, Gemma и другим.
• Узнайте, как настраивать ключи API и интегрировать их в различные приложения для генерации подсказок.
  Настройка ключа API в AI Content Labs

применять на практике

1. Доступ к LLM через веб-сайт: Создайте аккаунт и попробуйте сгенерировать подсказки прямо на сайте LLM.
2. Локальная установка Open Source LLM: Следуйте руководству, чтобы загрузить, установить и настроить локальный LLM с открытым исходным кодом и протестировать его с помощью различных подсказок.
3. Зарегистрируйте ключ API: Завершите процесс получения API-ключа от провайдера, например OpenAI, и напишите простой скрипт для генерации подсказки с использованием этого ключа.

Неделя 3: Написание эффективных предложений

На этой неделе мы научимся создавать различные типы подсказок для эффективной загрузки языковых моделей, уделяя особое внимание четким командам, примерам, итерациям, разделителям, структурированным форматам и температурным параметрам.

Пишите четкие и конкретные инструкции

• Узнайте, как написать четкие и конкретные инструкции, чтобы направить модель на получение желаемого результата.
• Поймите важность ясности и конкретики, чтобы избежать двусмысленности и повысить точность ответа.

Конкретные примеры использования

• Узнайте, как использовать конкретные примеры в подсказках, чтобы обеспечить контекст и повысить релевантность результатов моделирования.
• Узнайте, как на примерах продемонстрировать ожидаемый формат или тип ответа.

Преобразование подсказки и итерация

• Изучите преимущества преобразования подсказок и итераций для повышения качества продукции.
• Узнайте, как небольшие изменения в подсказках могут привести к значительному улучшению результатов.

Использование разделителей

• Узнайте, как эффективно использовать разделители в подсказках для разделения различных разделов или типов ввода.
• Узнайте, как улучшить структуру и читабельность подсказок с помощью примеров использования разделителей.

Указание формата структурированного вывода

• Поймите важность указания структурированного формата вывода в подсказке для обеспечения последовательности и организации ответов.
• Узнайте, как четко определить ожидаемый формат вывода.

Параметры рабочей температуры

• Узнайте о понятии температурного параметра в языковом моделировании и о том, как он влияет на креативность и случайность вывода.
• Узнайте, как настроить параметры температуры, чтобы найти баланс между разнообразием и согласованностью и контролировать реакцию модели.

применять на практике

1. Пишите четкие и конкретные инструкции: Создайте подсказки с четкими и конкретными инструкциями и проследите, как четкость влияет на результат работы модели.
2. Конкретные примеры использования: Включите в подсказку конкретный пример, чтобы сравнить разницу в релевантности вывода с примером и без него.
3. Преобразование подсказки и итерация: Попробуйте варьировать подсказки и повторять их, чтобы увидеть, как небольшие изменения улучшают результаты.
4. Использование разделителей: Используйте разделители для разделения различных разделов в подсказке и проанализируйте, как это повлияет на структуру и читабельность ответа.

Неделя 4: Понимание шаблонов подсказок

На этой неделе мы узнаем о паттернах подсказок - высокоуровневой технике, которая обеспечивает многоразовый и структурированный подход к решению общих проблем при выводе больших языковых моделей (LLM).

Обзор режима Cue

• Понять концепцию шаблонов подсказок и их роль в написании эффективных подсказок для LLM (например).
• Узнайте о сходстве между паттернами подсказок и паттернами проектирования в программной инженерии, где паттерны подсказок обеспечивают многоразовые решения конкретных и повторяющихся проблем.
• Цель изучения модели подсказок - облегчить разработку подсказок, предоставив основу для написания подсказок, которую можно использовать повторно и адаптировать к различным сценариям.

семантика ввода

• Узнайте о семантических категориях ввода и о том, как LLM понимает и обрабатывает вводимые данные.
• Узнайте о шаблоне подсказки "Создание метаязыка", который включает в себя определение пользовательского языка или символа, взаимодействующего с LLM.

Настройка вывода

• Поймите категорию "Персонализация результатов", которая посвящена адаптации результатов LLM к конкретным потребностям или форматам.
• Изучите режим подсказки "Шаблон", чтобы убедиться, что вывод LLM соответствует точному шаблону или формату.
• Узнайте о модели "ролевой" подсказки, когда ЛЛМ принимает на себя определенную роль или перспективу при создании вывода.

неправильная идентификация

• Обучение категориям распознавания ошибок с фокусом на обнаружении и разрешении потенциальных ошибок на выходе LLM.
• Узнайте о режиме подсказки 'Fact Checklist', который генерирует список фактов в выходных данных для проверки.
• Изучите модель "рефлексивной" подсказки, которая побуждает LLM задуматься о своих результатах и выявить потенциальные ошибки или области для улучшения.

Оптимизация кия

• Узнайте о категории "Оптимизация подсказок", посвященной оптимизации подсказок, отправляемых LLM, для обеспечения их качества.
• Узнайте о модели подсказок "Оптимизация вопросов", которая помогает LLM оптимизировать вопросы пользователей для получения более точных ответов.
• Изучите модель подсказок "Альтернативный подход", чтобы убедиться, что LLM предоставляет несколько способов выполнить задание или решить проблему.

Взаимодействие и управление контекстом

• Понимание категорий взаимодействия улучшает динамику взаимодействия между пользователем и LLM, делая диалог более увлекательным и эффективным.
• Изучите модель подсказки "Обратное взаимодействие", в которой LLM ведет диалог, задавая вопросы.
• Узнайте о категории "Управление контекстом" с упором на поддержание и управление контекстной информацией в диалоге.
• Изучите модель подсказок "Контекст-менеджер", чтобы обеспечить согласованность и актуальность текущего диалога.

упражнение

1. Изучите различные модели подсказок: Изучите различные шаблоны подсказок, чтобы понять, как они решают конкретные, повторяющиеся проблемы при выводе LLM.
2. Пример анализа шаблонов подсказок: Изучите примеры использования шаблонов подсказок в реальном мире, чтобы понять, как с их помощью можно достичь конкретных целей и результатов.
3. Определите и классифицируйте шаблоны подсказок: Упражняйтесь в распознавании различных моделей подсказок в заданном примере и отнесении их к соответствующей категории.
4. Комбинируйте несколько режимов подачи сигнала: Изучите, как можно комбинировать несколько режимов подсказки для решения более сложных проблем с подсказкой и улучшения общего результата.

Неделя 5: Продвинутые техники подталкивания

На этой неделе мы рассмотрим продвинутые техники подсказок, чтобы еще больше повысить их эффективность и изощренность. Вот несколько примеров.

Наконечник N-shot

• Изучите совет N-shot, который предполагает предоставление нулевого, одного или нескольких примеров (N-shots), чтобы направить реакцию модели.
• Узнайте, как советы N-shot могут повысить точность и релевантность результатов моделирования за счет контекста и примеров.

цепочка мыслей

• Изучите технику "Цепочка мыслей" (COT) для пошагового рассуждения о проблеме с помощью модели, созданной под руководством учителя.
• Узнайте, как этот метод может помочь создать более последовательный и логически стройный результат.

самосогласованность

• Понимание самосогласованных методов заключается в том, что модели предлагается сгенерировать несколько решений, а затем выбрать наиболее согласованное из них.
• Узнайте, как эта техника повышает надежность и точность генерируемых ответов.

дерево мыслей

• Изучение техники "Дерево мышления" помогает моделям рассмотреть несколько путей и потенциальных результатов решения конкретной проблемы.
• Узнайте, как построить подсказки, чтобы облегчить этот разветвленный мыслительный процесс и улучшить навыки принятия решений.

ментальная карта

• Изучите подход mind-mapping, при котором модели строят сети взаимосвязанных идей и концепций.
• Узнайте, как использовать эту технологию для создания более полного и многогранного ответа.

упражнение

1. Реализация наконечника N-shot: Приведите несколько примеров (N снимков) для модели и проследите, как это повышает релевантность и точность ответа.
2. Попробуйте использовать цепочку мыслей: Создайте подсказки, которые направляют пошаговое рассуждение модели о проблеме, и проанализируйте согласованность результатов.
3. Применение самосогласованности: Заставьте модель генерировать несколько решений проблемы и выбрать наиболее последовательное из них, чтобы повысить надежность.
4. Использование дерева мышления: Разработайте подсказки, чтобы побудить модели рассмотреть несколько путей и результатов и оценить свои процессы принятия решений.

Неделя 6: Продвинутые стратегии разработки кия

На этой неделе мы рассмотрим передовые стратегии разработки подсказок, которые позволят еще больше увеличить мощность и точность взаимодействия с языковыми моделями.

React

• сделать React техники для обучения новым задачам и принятия решений или рассуждений, позволяя модели "действовать" и "рассуждать".
• Узнайте, как использовать этот подход для создания более интерактивных и увлекательных результатов.

Переформулировка и задания для ответов

• Понимание техники "перескажи и ответь" предполагает, что модель должна пересказать заданную информацию, а затем ответить на нее.
• Узнайте, как такой подход повышает ясность и позволяет получить несколько представлений об одних и тех же исходных данных.

Самооптимизация

• Изучите методы "самооптимизации", которые побуждают модели пересматривать и улучшать свои собственные ответы для повышения точности и согласованности.
• Изучите, как эта техника может повысить качество работы, поощряя самооценку.

Советы по итерации

• Освойте подход "итеративной подсказки", чтобы постоянно оптимизировать работу модели с помощью итеративной подсказки и обратной связи.
• Узнайте, как с помощью этой техники можно со временем повысить качество и релевантность ответов.

цепная технология

• цепочка проверки: Использование проверочных вопросов и ответов на них для уменьшения феномена галлюцинаций.
• цепочка знаний: Создавайте подсказки, основанные на динамических знаниях, чтобы получить исчерпывающие ответы.
• эмоциональная цепь: Добавьте эмоциональные стимулы в конце подсказки, чтобы попытаться улучшить работу модели.
• цепь плотности: Создайте несколько резюме, которые постепенно становятся все более подробными, но не увеличиваются в объеме.
• символическая цепь: представляют сложное окружение, используя сжатые символические пространственные представления в цепочке промежуточных шагов вывода.

применять на практике

1. Внедрение технологии React: Создайте подсказки, которые попросят модель отреагировать или ответить на определенные стимулы, и оцените интерактивность вывода.
2. Использование пересказов и подсказок к ответамПопробуйте попросить модель переформулировать входные данные и затем ответить на них, а также проанализировать выходные данные на предмет ясности и разнообразия.
3. Самооптимизация приложений: Разработайте советы, побуждающие моделей пересматривать и улучшать свои ответы для повышения точности и последовательности.
4. Изучите технологию цепей: Создайте серию подсказок, используя различные техники построения цепочек (например, цепочки рассуждений на естественном языке, цепочки знаний), и оцените согласованность и глубину ответов.

вынести вердикт

Пройдя этот путь обучения, каждый может стать экспертом в области разработки подсказок. Вы получите глубокое понимание того, как разрабатывать эффективные подсказки и использовать передовые методы для оптимизации работы больших языковых моделей. Эти знания позволят вам решать сложные задачи, улучшать результаты работы моделей и вносить свой вклад в развивающуюся область ИИ и машинного обучения. Постоянная практика и изучение новых подходов позволят вам быть на переднем крае этой динамичной и захватывающей области.

Инженерия кия - основная часть построения и обучения генеративных моделей ИИ. Освойте разработку киев и все другие аспекты генеративного ИИ с помощью нашей комплексной и полной программы Generative AI Capstone. Этот курс охватывает как основы ИИ, так и передовые методы, которые помогут вам точно настроить свои модели генеративного ИИ для различных нужд. Посмотрите курс прямо сейчас!

общие проблемы

Q1. Что такое оперативная инженерия? Почему это важно?

А. Инженерия подсказок - это разработка входных данных, которые направляют макроязыковую модель на создание желаемого результата. Это необходимо для повышения точности и релевантности ответов, генерируемых ИИ.

Q2. Какие существуют инструменты и платформы для использования Большой языковой модели?

A. Часто используемые инструменты и платформы включают модели GPT от OpenAI, Hugging Face, Ollama, Llama и Мистраль и другие модели больших языков с открытым исходным кодом.

Q3. Как новичкам начать изучать технику изготовления кия?

A. Новички могут начать с изучения основ обработки естественного языка (NLP) и моделирования большого языка, экспериментировать с простыми подсказками и постепенно изучать более продвинутые техники, упомянутые в этом учебном курсе.

Q4. Какие ключевые навыки необходимы для работы в сфере оперативного инжиниринга?

A. Ключевые навыки включают в себя владение NLP, понимание больших языковых моделей, умение разрабатывать эффективные подсказки, а также знакомство с программированием и интеграцией API.

Q5. Как инженерия кия влияет на реальные приложения?

A. Эффективная разработка подсказок может значительно повысить производительность моделей ИИ в различных отраслях, от обслуживания клиентов и создания контента до анализа данных и поддержки принятия решений.