Часто используемые примеры краткой справочной таблицы (китайская версия)

Поскольку модель SOTA Big Language способна отвечать на все более сложные вопросы, самой сложной задачей является разработка идеальных подсказок с помощью вести (вокруг) Эти вопросы. Эта статья служит памяткой, в которой собраны некоторые принципы, призванные помочь вам лучше справляться с подсказками. Мы обсудим следующее:

АВТОМАТ - это аббревиатура, которая содержит следующие слова:

Давайте рассмотрим пример комбинации вышеперечисленных техник:

(A) Ролевая игра: здесь определяется конкретная роль помощника ИИ, как можно более подробно!

(U) Профилирование пользователей: здесь определяется целевая аудитория, ее происхождение и ожидаемый уровень знаний:

(T) Описание задачи: используйте явные глаголы для описания задачи, которую нужно выполнить:

(O) Формат вывода: описывает желаемую форму вывода. Более подробно об этом говорится в следующем разделе:

(М) Способ реагирования: используйте прилагательные, чтобы описать манеру, тон и стиль реагирования, которые должны быть приняты ИИ:

(A) Обработка исключений: описывает обработку нестандартных ситуаций. Обычно это относится только к моделям, интегрированным в приложение:

(T) Ограничения по темам: перечислите круг тем, разрешенных для обсуждения:

Система CO-STAR очень похожа на систему AUTOMAT, но имеет несколько иной фокус. CO-STAR представляет собой следующие пять областей:

Неудивительно, что многие элементы системы CO-STAR имеют прямое соответствие с элементами системы AUTOMAT:

После описания задачи нам нужно явно определить формат вывода, то есть то, как должен быть структурирован ответ. Как и в случае с человеком, приведение модели конкретного примера обычно помогает ей лучше понять наши требования:

Наконец, просим разъяснить следующие моменты:

Это позволяет модели более четко понимать требования задачи и, следовательно, лучше ее выполнять:

определитьВыходной формат:

Другой способ сделать это - на примерахвитринаВыходной формат:

Структура вывода может быть уточнена путем указания допустимых значений:

Наконец, не забудьте объяснить, как поступать с информацией, которую невозможно определить:

Обучение по образцу ставит перед моделью задачу и предоставляет два типа примеров:

Как правило, для облегчения понимания модели достаточно привести один пример для каждого варианта использования. Следует избегать перечисления похожих примеров:

Создайте отдельный раздел примеров для Less Sample Learning:

Для каждого распространенного случая приводится пример:

Приведите не более одного-двух примеров на каждый случай использования:

Если позволить модели "думать и говорить" как человек, то есть дать ей возможность пошагово объяснить свои рассуждения, это обычно дает лучшие результаты (подробнее об этом см. Эта статья от Google Brain Team) Вот как это работает: вы приводите пример вопроса и отвечаете на него аналогичным вопросом, а затем задаете вопрос, который действительно хотите задать. Таким образом, модель будет думать и отвечать шаг за шагом, следуя приведенному вами примеру.

Покажите на модели, как рассуждать на одном примере или небольшом количестве примеров:

Использование ключевых фраз, таких как "думайте шаг за шагом", направляет модель по цепочке рассуждений:

Процесс описан на примере:

Во многих случаях ваши подсказки будут иметь определенную структуру, отличаясь лишь некоторыми параметрами (например, временем, местом, историей диалога и т. д.). Таким образом, мы можем обобщить подсказку как Шаблоны советовзамените эти параметры переменными:

Итоговая подсказка может выглядеть примерно так:

Прежде всего, нам нужно определить шаблон подсказки, который содержит от одной до многих переменных.

Далее в каждом диалоге нам нужно заменить переменные в шаблоне на их реальные значения. В коде Python это может выглядеть следующим образом.

Полученная подсказка выглядит примерно так.

RAG (Retrieval Enhanced Generation) - это, пожалуй, один из самых важных прорывов в области моделирования больших языков (LLM) за последние два года. Она позволяет LLM получить доступ к вашим собственным данным или документам, чтобы ответить практически на любой вопрос, эффективно преодолевая такие ограничения, как сроки хранения знаний в предварительно обученных данных. Благодаря доступу к более широкому спектру данных модель может поддерживать знания в актуальном состоянии и охватывать более широкий спектр тематических областей.

Поскольку модели не перечитывают подсказки, важно убедиться, что они понимают их с первой попытки. Структурирование подсказок с помощью хэшей, кавычек и переносов строк поможет моделям легче понять, что вы хотите сказать.

Вы можете разделить различные разделы с помощью заголовков:

Заключите данные за пределами подсказки в кавычки:

Инвертированные запятые (одинарные, двойные и тройные) также могут использоваться для ввода данных пользователем:

Комбинируя все вышеперечисленные инструменты, вот почти идеальный пример актуального совета.

Начните с построения подсказок в следующем порядке:

Обратите внимание, что разделители также обеспечивают дополнительную структуру подсказок.

Для решения более сложных задач отдельных подсказок часто бывает недостаточно. Вместо того чтобы создавать единую подсказку, содержащую все мелкие шаги, проще и эффективнее разделить подсказку на части. Как правило, вы начинаете с классификации входных данных, затем выбираете определенную цепочку и используете модели и детерминированные функции для обработки данных.

Разделите одно задание на несколько, например, сначала распределите задания по категориям.

Затем вы можете выбрать подходящие последующие подсказки, основываясь на результатах категоризации, и, наконец, оценить ответы.