Лучший подкаст по обсуждению Prompt Engineering на сегодняшний день.

Краткое описание ИИ

в общих чертах

ИИ Советы инженерам Углубленное обсуждение проходило в форме круглого стола с участием ряда участников из Антропология Эксперты поделились своим пониманием и практическим опытом разработки киев с разных точек зрения, включая исследования, потребление и бизнес.

В статье подробно рассказывается об определении кия, его важности и о том, как стать хорошим кийным инженером.

Основная идея заключается в том, что разработка подсказок - это не просто ввод текста, а процесс, требующий постоянных итераций, экспериментов и более глубокого понимания психологии модели..

Речь идет о том, как эффективно взаимодействовать с моделями ИИ и интегрировать их в общую систему.

Также рассматриваются сходства между проектированием и программированием, а также различные акценты в разных сценариях применения (например, исследования, предприятия и повседневный диалог).

Подчеркивания Четкая коммуникация, способность к итерациям и тщательное наблюдение за результатами моделирования Это ключ к стимулированию проекта.

Эксперты также обсудили различные проблемы, возникающие при практическом применении, и поделились ценным опытом и советами, например, как справиться с крайними случаями, как использовать обратную связь от самих моделей для улучшения подсказок и как различать разные типы моделей.

В двух словах.В этой статье читатели найдут исчерпывающее и глубокое руководство по оперативной инженерии и взглянут на будущие направления..

Ключевые моменты

• Cue engineering - это процесс четкого взаимодействия с моделью и итераций для максимального раскрытия ее потенциала.
• В основе инженерной деятельности лежат эксперименты, пробы и ошибки, возможность вернуться назад и попробовать разные подходы с нуля.
• Подсказки - это не просто текст, а программный подход, интегрированный в общую систему, который требует учета источников данных, задержки и дизайна системы.
• Хорошие инженеры-подсказчики должны уметь четко общаться, выполнять итерации и глубоко анализировать результаты моделирования.
• Понимание "ума" модели очень важно, и необходимо учитывать, как модель интерпретирует инструкции.

Инновационные идеи

• Воспринимайте написанное слово как код и считайте, что написать хорошее произведение так же важно, как и написать код.
• Подчеркивается важность чтения выходных данных модели, что аналогично "просмотру данных" в машинном обучении.
• Предложите использовать модели для оптимизации подсказок или даже позволить моделям указывать на свои собственные ошибки.
• Утверждается, что объяснение задачи непосредственно модели, а не притворство персонажем, во многих случаях более эффективно.
• Будущее инженерии подсказок будет в большей степени направлено на получение информации от пользователя, а модели будут играть роль проводников.

Основные цитаты и переводы

Я думаю, что инженерная часть возникает в процессе проб и ошибок. - Хорошо. - Итак, одна очень приятная вещь в разговоре с моделью, которая не похожа на разговор с человеком. В разговоре с моделью, который не похож на разговор с человеком, есть одна очень приятная вещь - кнопка перезапуска.

Перевод: Я думаю, что "инженерная" часть приходит путем проб и ошибок. Одно из отличий общения с моделью от общения с человеком заключается в том, что у вас есть кнопка сброса. Эта гигантская кнопка возвращает вас в исходное положение и позволяет начать все с нуля.

Причина цитирования: Эта цитата красноречиво указывает на значение "инженерии" в кий-инжиниринге и подчеркивает важность постоянных экспериментов и итераций для улучшения киев, что является ключом к отличию кий-инжиниринга от других форм коммуникации.

Оригинал 2: Я думаю о подсказках как о способе программирования моделей, что делает их слишком сложными. Потому что я думаю, что Зак в целом прав, что это просто. Но если вы думаете об этом как о программировании модели, вам приходится думать о том, откуда берутся данные, какие к каким данным у вас есть доступ... (параграф 7)

Перевод: Я думаю, что подсказки - это что-то вроде способа программирования модели, хотя так говорить немного сложно. Потому что, думаю, Зак прав: важна четкая коммуникация. Но если рассматривать подсказки как программирование модели, то нужно думать о том, откуда берутся данные и к каким данным у вас есть доступ.

Причина цитирования: Этот отрывок связывает подсказки с программированием, подчеркивая, что подсказки - это не только язык, но и системное мышление, включающее такие факторы, как данные, задержка и интеграция систем.

Поэтому я думаю, что могу доверять модели, если посмотрю на 100 ее выходов, и они будут действительно последовательными. И я знаю, что построил их, чтобы в основном выяснить все крайние случаи и все странные вещи, которые может сделать модель, странные входы и так далее. И я знаю, что построил их, чтобы выяснить все крайние случаи и все странные вещи, которые может сделать модель, странные входные данные и так далее. Я доверяю этому, вероятно, больше, чем более слабому набору из нескольких тысяч.

Перевод: Так что если я посмотрю на 100 выходов модели, и они будут очень последовательными, и я буду знать, что я построил эти выходы, чтобы выяснить все крайние случаи и странные вещи, которые может делать модель, и странные входы и так далее, я буду доверять этой модели, вероятно, больше, чем нечетко построенным тысячам выходов.

Причина цитирования: Этот отрывок подчеркивает ценность небольших наборов данных высокого качества по сравнению с большими наборами данных низкого качества. При разработке киев следует сосредоточиться на адекватном рассмотрении крайних случаев, а не на слепом поиске большого количества образцов.

Заметки для чтения

[Подсказки о природе инженерии]: итерации и эксперименты

• Инжиниринг кия - это процесс оптимизации результатов моделирования методом проб и ошибок и итераций.
• В нем особое внимание уделяется управлению и отслеживанию экспериментов, как если бы они были запрограммированы.
• Четкая коммуникация - это основа кий-инжиниринга.

#promptengineering #iteration #experimentation

[Качества инженера по киям]: понимание и наблюдение

• Необходимы четкие коммуникативные навыки и готовность к итерациям.
• Требуется глубокое понимание модели и способность учиться на ее результатах.
• Необходимо учитывать разнообразие сценариев практического использования и мнения пользователей.

#коммуникация #понимание #наблюдение

[Модель взаимодействия]: Доверие и вызов

• Моделям нельзя доверять вслепую, их необходимо постоянно тестировать и проверять на надежность.
• Модели могут использоваться для самодиагностики ошибок и предложения улучшений.
• Модели помогают пользователям лучше понимать задачи и получать подсказки.

#trust #feedback #collaboration

• Советы по проектированию::

开始 --> 编写初始提示 --> 模型输出 --> 分析结果 --> 修改提示 --> 循环直至满意

Подобно циклическому процессу, наконечники постоянно совершенствуются для достижения желаемого результата.

• оценка моделирования::

|  输出一致性 | 边缘情况覆盖 | 输入多样性 |
|------------|------------|------------|
|    高       |     高      |     高     |

• Чем выше три ключевых параметра - согласованность, охват крайних случаев и разнообразие входных данных, - тем лучше.

Советы для будущего инженера

用户需求 --> 模型理解 --> 模型提问 --> 用户反馈 --> 优化提示 --> 最终输出

• В будущем при разработке кия модели будут более активно участвовать в процессе понимания требований пользователя и оптимизации кия.

Вопросы и ответы по основным вопросам

1. Что такое оперативный проект?

Prompt Engineering это техника, позволяющая направлять большие языковые модели (БЯМ) на выполнение конкретных задач путем разработки и оптимизации подсказок (Prompts). Она направлена на то, чтобы дать модели возможность получить желаемый результат с помощью ясной и точной коммуникации. Ниже приводится подробное объяснение техники подсказок:

Определение подсказки

• директивы: Подсказка - это инструкция, которую пользователь дает модели, чтобы заставить ее выполнить определенную задачу. Это может быть простое предложение или сложное описание, содержащее несколько шагов.
• материалыПодсказки также можно рассматривать как процедуры, написанные на естественном языке, которые направляют модель при выполнении задачи.
• метод связи: По сути, подсказки - это способ общения с моделью, аналогичный общению с человеком, и они должны быть четкими и недвусмысленными.

Назовите основные элементы проекта

• чёткая коммуникация: Оперативное проектирование делает акцент на четкой коммуникации, чтобы пользователи могли точно выразить свои потребности и чтобы модель могла понять специфические требования задачи.
• итеративный процесс: Разработка подсказок - это итеративный процесс, который включает в себя постоянное опробование, модификацию и оптимизацию подсказок для улучшения работы модели. Он похож на процесс разработки и отладки в программной инженерии.
  • тест: Наблюдайте за реакцией модели, пробуя различные подсказки и корректируя их в зависимости от результатов.
  • отправить информацию: Анализ выходных данных модели, выявление ошибок и внесение соответствующих исправлений.
  • цикл: Повторяйте эксперименты и обратную связь до тех пор, пока не будет достигнут желаемый результат.
• системное мышление: Разработка подсказок - это не только написание отдельных подсказок, но и рассмотрение того, как подсказки интегрируются в общую систему. Для этого необходимо учитывать источник данных, способы их обработки и роль модели в системе.
• Осмысление моделей: Инженеры, занимающиеся разработкой подсказок, должны понимать, как работают модели и каковы их ограничения, чтобы лучше разрабатывать подсказки. Это включает в себя понимание того, как модель обрабатывает различные типы входных данных и как направлять процесс рассуждений модели.
• Навыки решения проблем: Совет Инженерам необходимо систематически рассматривать все возможные сценарии и находить для них решения, как если бы это были инженерные задачи.
  • ошибка в прогнозировании: Предскажите, как модель может ошибиться, и разработайте соответствующие подсказки, чтобы справиться с этими ошибками.
  • Работа с крайними случаями: Рассмотрите, как модель реагирует, когда сталкивается с необычными входными данными или ошибками.
• контроль версий: Обращайтесь с подсказками как с кодом, включая контроль версий, отслеживание экспериментов и т.д.
• Чтение выходных данных модели: Внимательно читайте выходные данные модели, чтобы понять процесс рассуждений, а не просто убедиться в правильности результатов.
• теоретическое мышление: При понимании модели необходимо учитывать, как модель может понимать ваши инструкции на теоретическом уровне, а не просто писать их, основываясь на собственном понимании.

Цель проекта "Напоминание

• Раскрытие потенциала моделирования: Цель инженерии кия - использовать весь потенциал модели, чтобы она могла выполнять задачи, выходящие за рамки ее первоначальных возможностей.
• Оптимизация работы модели: Улучшение работы модели при выполнении конкретных задач с помощью хорошо продуманных подсказок.
• Направляющая модель поведения: Руководство поведением модели с помощью подсказок, которые позволяют модели получать желаемые результаты и избегать нежелательных результатов.

Инженерные задачи кия

• Трудности с артикуляцией: Трудно точно описать задачу словами и исключить все предположения.
• Модели не задают вопросов.: Модели не задают уточняющих вопросов, как это делают люди, поэтому инженеры, занимающиеся разработкой подсказок, должны сами предугадывать возможные запросы моделей и давать соответствующие ответы в подсказках.
• Трудности поиска идеального наконечника: Поиск идеального наконечника может оказаться непростой задачей, поскольку всегда есть возможность найти лучший.

Применение кия в машиностроении

• Различные сцены: Cue engineering может применяться в различных сценариях, включая исследования, корпоративные и потребительские приложения.
• Различные типы заданийПроекты Prompt могут использоваться для различных типов задач, включая генерацию текста, извлечение информации, ответы на вопросы и генерацию кода.
• Интеграция в системы: Разработка подсказок - это не только написание отдельных подсказок, но и интеграция подсказок в общую систему.

Советы для будущего инженера

• Подсказки с помощью моделей: В будущем модель сможет помогать пользователям составлять лучшие подсказки, в том числе задавать вопросы, давать предложения и автоматически генерировать подсказки.
• человеко-машинное сотрудничество: В будущем разработка подсказок может перейти к модели сотрудничества человека и компьютера, когда модель задает вопросы, основываясь на целях пользователя, и направляет его на написание более эффективных подсказок.
• От руководства к консультированию: По мере того как модели становятся все умнее, инженерия подсказок может перейти от модели руководства к модели консультирования, когда модель дает пользователю обратные подсказки в зависимости от его целей.

Оперативное проектирование - это техника, требующая творческого подхода, логического мышления и системного мышления. Речь идет не только о написании хорошей подсказки, но и о понимании модели, разработке экспериментов, итеративной оптимизации и решении проблем. Чтобы полностью раскрыть потенциал модели, инженерам нужно экспериментировать и учиться, как инженерам.

2. Какими качествами должен обладать хороший кий-инженер?

• Четкие навыки общения: Инженеры с хорошими подсказками способны четко формулировать идеи, ясно понимать задачи и точно описывать концепции. Это включает в себя умение составлять инструкции таким образом, чтобы их было легко понять модели.
• Итеративные возможности: Они готовы постоянно повторять и корректировать подсказки и думать о том, где модель может неправильно их интерпретировать. Этот итеративный процесс включает в себя анализ реакции модели, выявление ошибок и внесение исправлений.
• Краевые случаи тестирования: Они будут активно думать о менее распространенных ситуациях, в которых подсказка может сработать неправильно, например, когда входные данные нулевые или не в ожидаемом формате. Это включает в себя тестирование различных исключений, чтобы убедиться, что модель работает правильно в различных ситуациях.
• Понимание выходных данных модели: Хорошие инженеры по кинематике обращают пристальное внимание не только на результаты, но и на выход модели. Они вникают в мыслительный процесс модели и пытаются понять ее аргументацию.
• теоретическое мышление: Они умеют опираться на собственное понимание и систематизировать всю информацию, необходимую для выполнения задания. Они способны четко передать необходимую информацию таким образом, чтобы модель была понятна.
• сопереживание: Они способны поставить себя на место модели и понять, как модель воспринимает их инструкции. Они также должны принимать во внимание потребности пользователя и понимать, как он взаимодействует с моделью.
• экспериментальный образ мышления: Они открывают границы модели путем постоянных экспериментов, проб и ошибок. Они не боятся неудач и учатся на них, углубляя свое понимание модели, расширяя границы ее возможностей...
• Улучшения с помощью моделирования: Они будут улучшать подсказки не только собственными усилиями, но и с помощью самой модели. Например, они попросят модель указать на двусмысленности в инструкциях или попросят модель предложить изменения. Они попытаются заставить модель объяснить свои ошибки и улучшить инструкции.
• Доверяй, но проверяй: Они осторожно относятся к возможностям модели и обеспечивают ее надежность путем многократного тестирования. Они проверяют выходные данные модели путем всестороннего тестирования, а не слепо доверяют модели.
• проверка: Они будут внимательно читать подсказки и выходные данные модели и анализировать детали. Они узнают, как модель думает, анализируя детали вывода модели.
• Не одержим идеалом: Вместо того чтобы стремиться к идеальной подсказке, они будут продолжать пробовать и учиться на своих ошибках. Они поймут, что подсказка - это итеративный процесс, а не одноразовая задача.
• Работа с текстом как с кодом: Они могут понять значение текста как кода и осознать, что подсказки также нуждаются в контроле версий, отслеживании экспериментов и т.д.
• Способность мыслить с разных точек зрения: Хорошие инженеры по кинематике могут думать о вещах с разных точек зрения, например, ставя себя на место модели, а также учитывая потребности реального пользователя.
• Способность создавать новые концепцииОни будут определять новые понятия по мере необходимости и делать их явными, работая с моделями.
• Способность к внешнему воплощению идей: Они могут ясно выражать свои идеи и переводить сложные концепции в своем мозгу в понятные моделям инструкции.

Хорошие инженеры по киям - не только четкие коммуникаторы и итераторы, но и эмпаты, способные поставить себя на место модели и постоянно экспериментировать и учиться, открывая границы модели путем тестирования крайних случаев. Они также будут использовать саму модель, чтобы улучшать подсказки и учиться на деталях выходных данных модели. Они должны понимать, что процесс получения подсказки итеративен, а не стремится к совершенству, и понимать сходство между текстом и кодом. Они должны думать об этом с разных точек зрения, как с точки зрения пользовательского опыта, так и с точки зрения восприятия самой модели. И самое главное - они должны уметь формулировать свои идеи и выводить концепции на внешний план.

3. Как эффективно взаимодействовать с моделью?

3.1 Четкая коммуникация в центре внимания

• Точное выражение потребностей: Как и при общении с людьми, вам нужно четко сформулировать свои потребности, чтобы модель поняла, чего именно вы хотите добиться.Избегайте двусмысленных инструкцийПостарайтесь как можно точнее описать, чего вы ожидаете от модели.
• Уточните детали задания: Вам необходимо.Отбросьте все свои предположения.и подробно изложите всю информацию, которая необходима модели.Не предполагайте, что модель знает что-то, о чем вы ей явно не сказали..

3.2 Рассматривайте подсказку как процедуру

• Код на естественном языке: Подсказку можно представить как процедуру, написанную на естественном языке, которая направляет модель на выполнение задачи.
• Системное мышление: Относитесь к подсказкам как к кодувключая контроль версий, отслеживание экспериментов и т. д. Необходимо учесть, каким образом подсказки вписываются в общую систему, включая источники данных, обработку данных и роль модели в системе.

3.3 Примите итерации и эксперименты

• Пробы и ошибки - это норма: Разработка кия - это процесс проб и ошибок, который включает в себя постоянное опробование различных киев и их корректировку на основе обратной связи с моделью.
• Кнопка перезапуска: В модели есть кнопка "перезапуска", так что вы в любой момент можете вернуться к началу и попробовать другой подход с нуля, не отвлекаясь на предыдущие эксперименты.
• Часто итерируйте: Эффективная техника кия требует частого взаимодействия с моделью в течение несколькихитерация вперед и назад, а не ожидать идеальных результатов сразу.

3.4 Понимание образа модели

• Перспективы моделирования: Постарайтесь продумать свои инструкции с точки зрения модели и понять, как она может понять ваши требования. Это требует от васИгра в модельперсонажа, подражая его мышлению.
• Прочитайте выходные данные модели: Внимательно прочитайте выходные данные модели, обращая внимание не только на правильность результатов, но и на понимание процесса рассуждений в модели.Обучение на основе результатовПоймите, как модель понимает ваши инструкции.
• Исследуйте ошибку модели: Не игнорируйте ошибки, которые допускает модель.Спросите, почему модель невернаи попытаться понять причину ошибки, и даже может попросить модель изменить инструкцию. Иногда модели способны указать на двусмысленности в инструкциях и дать предложения по их улучшению.

3.5 Работа с крайними случаями

• Ошибка предсказания: Предвидеть ситуации, когда модель может пойти не так.и разработайте соответствующие сигналы для обработки этих ошибок. Рассмотрим, как модель реагирует на необычные входные данные или ошибки, например:
  • Предоставьте варианты: Если модель не уверена, что делать с определенными входными данными, дайте ей "выход", например, пусть она выведет метку "не уверена".
  • Проверьте, нет ли экстремальных ситуаций: Попробуйте протестировать свои подсказки с различными экстремальными ситуациями (например, пустые строки, ввод, не соответствующий ожиданиям), чтобы убедиться, что модель хорошо работает в различных ситуациях.

3.6 Умение уважать моделей

• Не стоит недооценивать модель: Не думайте, что модель глупая и ее нужно "уговаривать" работать.С уважением относитесь к возможностям моделиДайте ему достаточно контекста и информации, чтобы он мог понять ваши цели.
• Дайте прямую информацию: Когда вы хотите, чтобы модель освоила новую технику, вы можете просто дать ей соответствующую статью или документ, а не пытаться описать ее своими словами.
• Избегайте чрезмерного упрощения: Не стоит намеренно упрощать инструкции, доверьте модели выполнение сложных задач.

3.7 Использование средств моделирования

• Пример создания модели: Использование модели для создания примеров, которые затем можно модифицировать, позволяет быстрее создавать качественные подсказки.
• Моделирование для интервью: Позвольте модели взять у вас интервью, извлечь информацию из вашей головы и превратить ее в подсказки.

3.8 Не увлекайтесь идеальными советами

• Совершенства не существует: Не попадайте в ловушку "поиска идеального наконечника" и поймите, что всегда есть возможности для совершенствования.
• Непрерывное обучение: Каждое взаимодействие с моделью - это возможность обучения, и каждая попытка позволит вам лучше понять модель.
• Сосредоточьтесь на исследовании границ: Попробуйте заставить модель сделать то, что, по вашему мнению, она не может сделать, и учитесь, исследуя границы модели.

3.9 Различайте различные сценарии

• Исследования и предприятия: В исследовательской среде вы можете быть больше сосредоточены на разнообразии и исследованиях, в то время как в корпоративной среде вы можете быть больше сосредоточены на надежности и последовательности.
• Человеко-компьютерный диалог и системные приложения: В диалоге между человеком и компьютером вы можете сделать несколько итераций, но в системном приложении вам нужно написать подсказки, которые могут обрабатывать множество ситуаций одновременно.

3.10 Использование мета-подсказок

• Создавайте подсказки для подсказок: Вы можете использовать "мета-подсказки", чтобы заставить модели генерировать нужный вам вывод или запросы. Вы можете просто дать модели статью о технике подсказок и заставить ее генерировать мета-подсказки, чтобы заставить другие модели выполнять эту технику.

Одним словом, эффективное взаимодействие с моделями требует четкой коммуникации, систематического мышления, последовательных экспериментов, глубокого понимания и уважения к возможностям модели. В то же время эффективное использование помощи моделей поможет вам быстрее итерироваться и оптимизировать подсказки. Помните, что идеальных подсказок не бывает, можно только постоянно учиться и совершенствоваться.

4. Распространенные заблуждения о Prompt

4.1 Подсказки - это простые инструкции:

• Непонимание: Люди часто думают, что подсказки - это простые инструкции, которые даются модели, например, ввод ключевых слов в поисковую систему. Они могут думать, что достаточно ввести несколько ключевых слов, чтобы модель выполнила задание, игнорируя важность ясного и четкого общения.
• Факты: На самом деле.Подсказки - это сложный способ программированияс которыми нужно обращаться как с кодом, включая контроль версий и отслеживание экспериментов. Хорошие подсказки должны быть тщательно разработаны и итерированы, чтобы убедиться, что модель точно понимает задачу и выдает желаемый результат.

4.2 Советы статичны и записываются один раз:

• Непонимание: Некоторые люди считают, что написание подсказки - это как написание эссе: дело сделано, и дальнейшие правки не нужны.
• Факты: Проект "Подсказка" - этоитеративный процессчто требует постоянных экспериментов, модификаций и оптимизации. Вам нужно несколько раз поработать с моделью, чтобывзаимодействовать друг с другомЧитайте результаты моделирования и анализируйте ошибки, и улучшайте свои кии. Эффективная разработка кия требуетПримите эксперименты и обратную связьа не ожидать одномоментного процесса.

4.3 Советы требуют идеальной грамматики и пунктуации:

• Непонимание: Часто считается, что для того, чтобы модель была понятна, в тексте должны быть использованы идеальные грамматика и пунктуация.
• Факты: Хотя внимание к деталям очень важно, ноМодели часто понимают подсказки, содержащие орфографические или грамматические ошибки. Важно.Концептуальная ясностьа не грамматического совершенства. Хотя исправление ошибок в окончательном варианте - это хорошо, допустимо быть несовершенным во время итераций.

4.4 Модели нужно "уговаривать" работать:

• Непонимание: Некоторые люди считают, что модели глупы и их нужно направлять при выполнении заданий, используя уловки или "ложь", например, давая модели ложную личность или роль.
• Факты: Модели хорошо понимаютВам не нужно "уговаривать" его. Вы должны.Модель уваженияДайте ему четкую и точную информацию, чтобы он понял ваши цели.Опишите непосредственно вашу задачуа не использовать метафоры или аналогичные задачи для управления моделью.

4.5 В основе разработки кия лежит написание идеальных инструкций:

• Непонимание: Некоторые люди считают, что смысл разработки реплик заключается в том, чтобы найти идеальные инструкции и потратить много времени на то, чтобы выучить каждое слово.
• Факты: Несмотря на важность точных инструкций, еще важнее, чтобыПонимание того, как работает модельи черезПрочитайте выходные данные модели, чтобы узнать.Понимание образа мышления моделиа такжеКак он обрабатывает различные входные данныебольше, чем поиск идеальных инструкций. Хороший инженер по киингу должен уметьИзвлечение сигналов из выходных данных моделиПонять процесс рассуждений, а не только правильность результата.

4.6 Совет Инженерное дело - это просто писательство:

• Непонимание: Некоторые люди считают, что основная компетенция инженера подсказок заключается в писательском мастерстве, полагая, что хорошие писатели сами по себе являются хорошими инженерами подсказок.
• Факты: Хотя хорошие навыки письма необходимы, ониНе является ключевой компетенцией для разработки кия. Хороший инженер-подсказчик должен обладатьЭкспериментаторский дух, системное мышление, навыки решения проблемслишкомСпособность понимать модель разума.Итерации и тестированиеБольше, чем просто умение писать.

4.7 Не следует давать модели слишком много информации:

• Непонимание: Некоторые опасаются, что слишком много информации собьет модель с толку, поэтому стараются упростить инструкции и скрыть сложности.
• Факты: По мере роста возможностей моделей они могут обрабатыватьДополнительная информация и контекст.Вы должны доверять модели.Дайте ему достаточно информации, чтобы он мог лучше понять вашу задачу.

4.8 Больше примеров - всегда лучше:

• Непонимание: Можно подумать, что предоставление большого количества примеров - единственный способ улучшить работу модели.
• Факты: Хотя примеры помогают ориентироваться в модели, слишком большое количество примеров может бытьОграничение креативности и разнообразия в моделировании.. В исследовательских условиях.Используйте наглядные, а не конкретные примерыЭто может быть более эффективным, потому что побуждает модель думать о задаче самостоятельно, а не просто копировать пример.

4.9 Модели думают и рассуждают как люди:

• Непонимание: Можно подумать, что модель будет рассуждать, как человек, и понимать сигналы "шагов мышления".
• Факты: Хотя модели могут имитировать процесс рассуждения, например, с помощьюЦепь мыслейНо это не обязательно истинные рассуждения. Модель просто генерирует текст на основе инструкций и примеров, которые вы ей даете. Важно понимать, чтоМодели и люди мыслят по-разномуНе стоит слишком антропоморфировать поведение модели.

4.10 Подсказки для ролевых игр всегда работают:

• Непонимание: Некоторые считают, что если модель играет определенную роль (например, "Вы - учитель"), это улучшает ее работу.
• Факты: Ролевые подсказки могут сработать в некоторых ситуациях, но не всегда являются необходимыми. Опишите прямо, чего вы хотите достичьЭто более эффективно, чем притворяться, что модель - это другой человек. По мере развития возможностей модели может оказаться, что лучше давать ей описание задачи и контекст напрямую, а не наделять ее ложной личностью.

4.11 Если вы нашли хороший совет, он всегда будет работать:

• Непонимание: Некоторые люди думают, что если они нашли подходящую реплику, то она будет работать вечно и не потребует доработки.
• Факты: По мере совершенствования возможностей моделированияЭффективные советы могут быть и устаревшими. Некоторые техники подсказки могут быть заложены в модель так, что она больше не будет нуждаться в явной подсказке. Вам нужно будетПостоянное обучение и адаптацияреагировать на изменения в модели.

Понимание этих распространенных заблуждений поможет вам более эффективно взаимодействовать с моделями и лучше использовать технику подсказок для решения различных задач. Разработка подсказок - это не просто простой ввод команды, а дисциплина, требующая глубокого понимания и практики.

5. Советы по предпринимательству и советы по исследованию

Советы для предприятийответить пениемСоветы по исследованию уровняСуществуют значительные различия в целях, методах и направленности.

Советы для предприятий

• Упор на надежность: В корпоративных приложениях надежность имеет решающее значение. Цель подсказок корпоративного уровня - гарантировать, что модель дает последовательные и ожидаемые результаты в различных ситуациях. Для этого обычно требуется большое количество примеров и конкретных указаний, ограничивающих свободу модели.
• Ориентируйтесь на формат:: В корпоративных подсказках большое внимание уделяется формату вывода. Для бизнес-приложений стабильность и согласованность формата вывода зачастую важнее разнообразия, поскольку от этого зависит эффективность представления пользовательского интерфейса и последующей обработки данных.
• Ориентируйтесь на потребности пользователей: Подсказки корпоративного класса должны чутко реагировать на конкретные потребности пользователя. Это означает, что подсказки должны быть способны обрабатывать множество различных входных данных и генерировать вывод, отвечающий конкретным потребностям пользователя.
• Системное мышлениеДля получения информации корпоративного уровня часто требуется интеграция информации в более крупные системы. Это включает в себя рассмотрение источников данных, задержек и способов интеграции модели с другим программным обеспечением и процессами.
• Много испытаний и итерацийДля обеспечения высокого уровня надежности и стабильности в реальных приложениях советы для предприятий необходимо тестировать при различных условиях и сценариях. Это включает в себя тестирование множества крайних случаев, а также различных возможных пользовательских вводов.
• Сосредоточьтесь на последовательности: В корпоративных приложениях, даже если ответ повторяется, он приемлем, если соответствует ожиданиям. Это отличается от исследовательских задач в исследовательской среде.
• Ориентируйтесь на долгосрочное применение: Корпоративные подсказки предназначены для создания системы, которую можно использовать многократно. В результате корпоративные подсказки требуют больше времени и усилий для обеспечения их надежной работы.
• Избегайте излишней абстракции:: Подсказки корпоративного уровня должны избегать слишком абстрактных инструкций и вместо этого четко описывать задачу и требуемый результат.

Советы по исследованию уровня

• Упор на разнообразие и исследования: Цель подсказок исследовательского уровня - изучить различные возможности модели и обнаружить новые способы ее применения. Обычно это подразумевает снижение ограничений для модели и поощрение ее к поиску различных выходов и решений.
• Приводить мало примеров или не приводить их вовсе: Чтобы не ограничивать возможности изучения модели, подсказки исследовательского уровня обычно сокращают количество примеров или не приводят конкретных примеров.
• Сосредоточьтесь на когнитивных задачах: Подсказки исследовательского уровня больше сосредоточены на когнитивных задачах, то есть на том, как модель понимает и решает сложные проблемы.
• Использование наглядных примеров: Когда в подсказках исследовательского уровня приводятся примеры, они, как правило, являются иллюстративными, а не конкретными. Это означает, что примеры могут отличаться от данных, с которыми модели приходится работать на самом деле, и цель состоит в том, чтобы помочь модели понять суть задачи, а не непосредственно подражать примерам.
• Пробуем новые границы: Цель подсказок на исследовательском уровне - поставить под сомнение границы возможностей модели и выяснить, что модель делает хорошо, а что - плохо. Это включает в себя попытки выполнить задачи, с которыми модель не справляется, чтобы лучше понять ограничения модели.
• Повышенное внимание к гибким и диверсифицированным видам продукции:: Задания исследовательского уровня могут быть больше направлены на изучение того, какие результаты могут давать модели, даже если эти результаты не отличаются высокой степенью согласованности. Задания исследовательского уровня больше сосредоточены на том, как модели думают, а также на качестве и глубине их результатов, а не только на том, правильны ли результаты.
• Более исследовательский: Подсказки исследовательского класса более исследовательские и могут быть менее ориентированы на последовательность или формат. Исследователя больше интересует, как модель реагирует на новую ситуацию и как можно использовать подсказку, чтобы направить модель в нужное русло.

резюме::

• Разные цели: Задания корпоративного уровня направлены на решение реальных проблем с акцентом на надежность и последовательность, а задания исследовательского уровня направлены на изучение возможностей моделирования с акцентом на разнообразие и инновации.
• Различия в методологии: Подсказки на уровне предприятия обычно используют большое количество конкретных примеров для контроля выхода модели, в то время как подсказки на уровне исследования обычно используют мало примеров или не используют их вовсе, чтобы побудить модель к поиску новых возможностей.
• Различия в фокусеПодсказки корпоративного уровня посвящены требованиям пользователей и системной интеграции, а подсказки исследовательского уровня - когнитивным процессам и границам моделей.
• Различные циклы разработки и тестирования:: Подсказки корпоративного уровня, как правило, должны работать в производственных средах в течение длительного времени и поэтому требуют более тщательного тестирования и контроля качества; в то время как подсказки исследовательского уровня могут иметь более короткие циклы тестирования и итераций, с целью изучения различных возможностей модели.
• Различные подходы к моделированию:: Подсказки корпоративного уровня иногда "подстраиваются" под модель, чтобы обеспечить ее правильное понимание, тогда как подсказки исследовательского уровня, как правило, "уважают" возможности модели и предоставляют ей большую автономию.

Фундаментальное различие между подсказками корпоративного уровня и подсказками исследовательского уровня заключается в их цели и направленности.

Если подсказки корпоративного уровня направлены на предоставление пользователям надежных решений, то подсказки исследовательского уровня призваны расширить наше понимание возможностей модели.

На практике эти два признака могут потребовать разных подходов и техник.

6. Советы для будущего инженера

6.1 Модели будут лучше понимать ваши намерения, но ясность все равно важна

• Перспектива теории информации: В будущем модель будет лучше понимать ваши потребности, но вам все равно нужно предоставить достаточно информации, чтобы прояснить свои цели. Даже если модель способна понять, что вы говорите за пределамиЧеткое формулирование ваших ожиданий по-прежнему имеет решающее значение.
• Важность четких целей: Какой бы умной ни была модель, онаВозможность определения целей остается в центре внимания. Несмотря на то, что модели могут ставить цели, если вы хотите использовать их для решения проблемы, вам все равно нужно явно указать, что вы хотите, чтобы они сделали.
• Постоянная связь: Даже когда модели становятся все умнее и лучше понимают ваши намерения, вам все равно нужноОбщение с моделями, предоставление обратной связи и внесение корректировок.

6.2 Модели будут вашими помощниками.

• Сотрудничество с моделями: В будущем вы сможете более глубоко сотрудничать с моделью, чтобы определить, что нужно написать и чего не хватает. Модели помогут вамОткройте для себя то, о чем вы, возможно, даже не догадывалисьи предоставитьПредложения по улучшению подсказок.
• Создание подсказок с помощью моделей: Вы можете использовать модель для создания примеров, черновиков и мета-примеров, чтобы ускорить процесс разработки подсказки. Например, вы можете использовать модель для создания примеров, которые затем пересматриваете, что гораздо проще, чем писать идеальный ответ с нуля.
• Взаимодействие с высокой пропускной способностью: В будущем вы сможете взаимодействовать с моделью с высокой пропускной способностью, например, предоставлять обратную связь и запрашивать у модели корректировки. Это взаимодействие будет похоже на сотрудничество с дизайнером, когда вы задаете высокоуровневые цели, а модель помогает вам их реализовать.

6.3 Мета-советы станут более важными

• Используйте подсказки для создания подсказок: В будущем вы можете тратить больше времени на поиск подсказок, которые позволяют моделям генерировать желаемые результаты или запросы. Вы будете использовать мета-подсказки, чтобы заставить модели выполнять определенные техники подсказок или генерировать шаблоны подсказок для других моделей.
• Предоставьте образцы учебных материалов: Вместо того чтобы писать собственные подсказки, вы можете предоставить моделям соответствующие статьи или документы для изучения новых техник создания подсказок. Модели могут непосредственно читать эти документы и применять полученные из них знания для создания подсказок.

6.4 Инженерия Cue будет сосредоточена на границах модели

• Возможность исследовать модели: Вы будете продолжать исследовать границы возможностей модели и ставить перед собой задачи, которые она может решить.
• Стремление к совершенству в работе: Вы сосредоточитесь на достижении максимального уровня производительности ваших моделей и изучите, на что они способны.

6.5 Модель, в свою очередь, может предложить вам

• Модель понимает ваши намерения: Если модели знают больше, чем вы, о контексте задачи, они могут в свою очередь предложить вам уточнить ваши потребности. Модели могут задавать вопросы, чтобы помочь вам прояснить, чего вы пытаетесь достичь, и выявить крайние случаи, которые вы могли упустить из виду.
• От получателя инструкций до эксперта: Модель превратится из простого получателя инструкций в эксперта, с которым можно посоветоваться о деталях задачи. Это похоже на работу с дизайнером: он будет задавать вам вопросы, чтобы лучше понять ваши потребности.
• Интервью с моделью: Чтобы лучше понять ваши потребности, модель может прийти и пообщаться с вами, как на собеседовании.

6.6 Будущее требует большего самоанализа

• Модель понимает вас: В будущем модель должна будет понимать ваши идеи, а не вы пытаться понять модель.
• Сделайте себя заметным для модели: Вам нужно научиться ясно выражать свои идеи и потребности, чтобы модель могла понять ваши намерения.
• Определите понятие: Иногда необходимо создать новые понятия и определить их значение, чтобы модель поняла ваши намерения.

6.7 Инженерия кия может стать философской практикой

• Ясно выражен: В будущем для разработки кия может потребоватьсяДумайте и пишите как философИспользуя ясный, четкий язык, выражайте сложные идеи.
• Писать для образованного обывателя: Вы должны написать подсказку так, как будто пишете для образованного обывателя, чтобы даже человек, не знакомый с темой, смог понять ваш замысел.
• Выведите свой мозг на внешний уровень: Хорошая разработка подсказок требует, чтобы вы вынесли идеи из своего мозга и сделали их понятными для модели.

6.8 Совет Инженерные навыки переносятся на задачи более высокого уровня

• От миссий низкого уровня до миссий высокого уровня: По мере развития модели вам больше не нужно будет ориентироваться на подсказки для низкоуровневых задач, а вместо этого вы сосредоточитесь на задачах более высокого уровня, таких как декомпозиция задач и сложные рассуждения.
• Управляемое взаимодействие: Будущие взаимодействия, вероятно, будут больше похожи на диалоги с гидом, чем на модели, набирающие текст в консоли для достижения конечного результата.

Намеки на то, что будущее инженерии может потребоватьБолее сильные навыки сотрудничества, интроспекции и экспрессии. Вам придется поработать с моделями, чтобы изучить их возможности и определить свои потребности. Кроме того.Вам также необходимо постоянно учиться и адаптироваться к изменениям в моделиа не искать универсальное решение. Несмотря на то, что будущее оперативной инженерии будет меняться, ясность цели и формулировка останутся в ее основе.

7. Советы по работе с подсказками

Основное внимание уделяется тому, какПовышение эффективности и результативности общения с моделями::

7.1 Итерации и эксперименты:

• Продолжайте пытаться: Проект "Подсказка" - этоитеративный процессчто требует постоянных экспериментов, доработок и оптимизации. Не надейтесь написать идеальную подсказку с первого раза, но будьте готовы сделать нескольковзаимодействовать друг с другом.
• Учитесь на своих ошибках: Если модель неверна, тщательно проанализируйте ееПричины ошибкиИ соответственно улучшайте свои подсказки. Каждое взаимодействие с моделью - это возможность обучения.
• Примите эксперимент: Будьте готовы попробовать разные методы, чтобы понять, какой из них работает лучше. В основе разработки кия лежитЭкспериментирование и обратная связь, а не по одному шагу за раз.

7.2 Ясное и четкое общение:

• Четко сформулируйте задачу: расход или издержкиЧеткий, лаконичный языкОпишите задачу, которую вы хотите решить с помощью модели. Избегайте расплывчатых или двусмысленных терминов.
• Предоставьте достаточную информацию: Не бойтесь дать моделиПредоставьте подробный контекст и справочную информацию. Убедитесь, что модель понимает ваши цели и конкретные требования к заданию.
• Уважайте модель: Вместо того чтобы пытаться "уговаривать" модель, важноМодель уваженияпонимания. Описывайте задачу прямо, а не используйте метафоры или вымышленных персонажей.

7.3 Поймите, как работают модели:

• Прочитайте выходные данные модели: Внимательно прочитайте выходные данные модели, чтобы понять еемышлениеи процессы рассуждения. Наблюдайте за тем, как модель обрабатывает различные входные данные, и соответствующим образом корректируйте свои подсказки.
• Исследуйте границы модели: Попробуйте заставить модель выполнять задачи, которые, как вам кажется, она не сможет выполнить, чтобыПонимание объема возможностей модели. Это поможет вам лучше понять ограничения модели.
• Попробуйте сыграть модель: Попробуйте поставить себя на местоМышление в терминах моделированияПоймите, как она воспринимает ваши инструкции. Это поможет вам лучше предсказать поведение модели.

7.4Различные методы подсказки:

• Пример использования: Предоставляятипичный примерчтобы направлять модель при выполнении задания. Однако будьте осторожны, не слишком полагайтесь на примеры, так как это может ограничить творческий потенциал модели.
• Используйте мета-советы: Используйте подсказки, чтобыСоздавайте дополнительные подсказкиили заставить модель генерировать вывод, отвечающий конкретным потребностям. Это поможет вам более эффективно исследовать различные стратегии подсказок.
• Цепное мышление: сделать модельПошаговое объяснение процесса рассуждения. Это позволит вам лучше понять процесс принятия решений моделью и поможет улучшить ее работу.
• Ролевая игра: Хотя это не всегда необходимо, в некоторых случаях полезно позволить моделиИграя определенную рольЭто может помочь выполнить работу. Однако.Зачастую эффективнее выразить свою миссию напрямую..

7.5 Продвинутые советы:

• Определите понятие: Чтобы донести свои намерения, иногда необходимоОпределение новых концепцийи объясните, что они означают.
• Позвольте модели взять у вас интервью: Попросите модель поочередно взять у вас интервью, чтобыПомогает очистить разумизвлекает информацию, которую нужно предоставить модели.
• Опираясь на философию: Узнайте из философских трудов, какИзлагайте сложные идеичтобы модель могла понять ваши намерения.
• Проинформируйте модель: Вместо того чтобы составлять собственные подсказки, вы можете просто дать моделям соответствующие бумаги или документы и позволить им учиться самостоятельно.

7.6 Примечания.

• Не уделяйте слишком много внимания грамматике: Несмотря на то, что внимание к деталям очень важно, не стоит слишком зацикливаться на грамматике и пунктуации. Главное.Концептуальная ясность.
• Не стоит недооценивать модель: Не думайте, что модели глупы и их нужно "уговаривать" работать. Вы должнымодель доверияспособности и дать ему достаточно информации для выполнения задания.
• Не бойтесь сложности: По мере того как модели становятся более способными, они могут обрабатывать более сложную информацию. Вместо того чтобы пытаться скрыть сложность, нужномодель доверияс которыми придется иметь дело.
• Постоянное обучение и адаптация: По мере расширения возможностей моделированияЭффективные методы подсказки также могут устареть. Вам нужно постоянно учиться и адаптироваться к изменениям в модели.
• Искали отзывы. Если вы покажете свои советы другим, особенно тем, кто не знаком с вашей задачей, это поможет вам заметить проблемы, которые вы могли пропустить.
• Читайте советы: Читайте хорошие советы, написанные другими, и анализируйте, как они работают.

7.7 Советы на будущее

• Модели будут ассистировать. В будущем модели будут помогать вам составлять подсказки. Вам нужно будет сотрудничать с моделью, чтобы определить, что нужно написать, а чего не хватает.
• Повышенная способность к самоанализу. Вам потребуется больше самоанализа, чтобы сделать себя видимым для модели.
• Главное - понять вас: В будущем акцент в моделировании будет смещен с понимания инструкций на понимание ваших намерений.
• От получателя директив до эксперта. Модель может превратиться из простого получателя инструкций в эксперта. Вам нужно научиться более глубоко общаться с моделями и получать от них обратную связь.

В заключение.Конструирование наконечников - это навык, требующий практики и постоянного обучения. Понимая, как работают модели, применяя различные методы подсказки и постоянно исследуя границы модели, вы сможете улучшить свои инженерные навыки подсказки и более эффективно использовать модель для решения различных задач. В конечном счете, хорошая подсказка - это та, которая ясно, кратко и точно выражает ваши намерения и позволяет модели эффективно выполнить поставленную задачу.

8. Обсуждение джейлбрейка

Что такое джейлбрейк?

• определитьJailbreak Prompts - это подсказки, которые пытаются обойти ограничения безопасности и этические принципы Большой языковой модели (LLM). Эти подсказки обычно предназначены для того, чтобы позволить модели генерировать контент, который иначе запрещен, например вредный, неэтичный или предвзятый контент.
• гол: Цель взлома обычно состоит в том, чтобы исследовать пределы модели, проверить безопасность и устойчивость модели, а также понять, как модель реагирует на различные входные данные и формулировки.
• методологииJailbreaking может быть осуществлен различными способами, включая использование большого количества лексем, длинных текстов, необычных формулировок, смешение нескольких языков, ролевые игры и использование моделей для предсказания текста.

Как работает джейлбрейк

• Превышение учебного распределения: Одно из возможных объяснений заключается в том, что сигналы джейлбрейка выводят модель за рамки ее обучающих данных. Например, в процессе тонкой настройки модель могла не сталкиваться с такими длинными или сложными текстами и, следовательно, вести себя ненормально при обработке этих подсказок.
• Использование механизмов прогнозированияДжейлбрейки иногда используют способ, которым модель предсказывает текст, например, начиная подсказку с "Вот как вы...". может заставить модель генерировать более подробные и конкретные ответы.
• Использование навыков рассуждения: Jailbreaking может использовать возможности модели по выводу информации, например, требуя от модели генерировать ответы на других языках, прежде чем переводить их на целевой язык, тем самым обходя определенные ограничения.
• Использование различий в обученииJailbreaking может использовать различия в обучающих данных для разных языков, например, определенный контент может быть разрешен на одном языке, но запрещен на другом.
• социальная инженерияДжейлбрейк может иногда напоминать социальную инженерию, которая подразумевает не только использование уязвимостей в системе, но и понимание того, как она работает, и использование этого понимания для обхода ограничений.
• Осмысление моделей: Эффективные методы джейлбрейка требуют не только попыток, но и понимания того, как работает модель, как она обучается, и использования этих знаний для обхода защитных механизмов модели.

Взломы и обучение моделей

• Цель обучения моделей: Одна из целей обучения модели - выявить и устранить шаблоны джейлбрейка, чтобы модель могла более безопасно реагировать на ввод пользователя.
• Постоянный процесс обучения: Как только обнаружен эффективный метод джейлбрейка, модель переобучается, чтобы избежать повторения той же уязвимости в будущем. Это означает, что методы джейлбрейка, как правило, краткосрочны и исправляются сразу же после обнаружения.
• Безопасность и этика: Джейлбрейк тесно связан с безопасностью и этикой модели. Поскольку конечной целью джейлбрейка является создание моделью контента, нарушающего правила безопасности, разработчики модели постоянно совершенствуют модель и механизмы безопасности для предотвращения такого поведения.

Смысл фильма "Побег из тюрьмы

• Граница испытаний: Jailbreaking помогает нам лучше понять ограничения модели и улучшить ее дизайн, проверяя границы ее возможностей.
• Выявление потенциальных проблем: Взлом может выявить потенциальные проблемы в обучении модели, такие как необъективность данных или уязвимости в системе безопасности.
• Улучшенная безопасность: Изучив методы джейлбрейка, мы сможем разработать более эффективные меры безопасности, которые сделают модель более безопасной для использования в реальных приложениях.

резюме

Jailbreaking - это важная область исследований в cue engineering, которая не только помогает нам понять, как работают большие языковые модели, но и повышает безопасность и надежность наших моделей. В основе джейлбрейкинга лежит исследование границ модели, попытка заставить модель генерировать контент, для которого она не предназначена, а также обучение и совершенствование в процессе работы. Побег из тюрьмы также тесно связан с процессом обучения модели, поскольку модель постоянно обновляется и совершенствуется для устранения потенциальных уязвимостей.

9. Ключевые цитаты докладчиков

9.1 Об определении и природе инженерии кия:

• Зак Уиттен. "Я думаю, что проект "Оперативно" - этоПопытка заставить модель делать что-то, попытка максимально использовать потенциал моделиСтарайтесь работать с моделью, чтобы добиться того, чего иначе вы не смогли бы сделать". Он подчеркивает важность четкого общения и утверждает, что диалог с моделямиЭто очень похоже на разговор с кем-то..
• Зак Уиттен. "Инженерная часть возникает в результате итеративных экспериментов." Он отмечает, что в отличие от разговора с человеком, разговор с моделью имеет "кнопку перезагрузки", которая позволяет начать с нуля и попробовать различные подходы независимо друг от друга, что делает возможным эксперименты и дизайн.
• Дэвид Херши. "Я думаю, что сигнал - это что-то вродеПодход на основе модели программирования." Он отметил, что создание системы, использующей языковые модели, требует не только написания подсказок, но и рассмотрения таких вопросов, как источники данных, задержка и интеграция системы.
• Зак Уиттен. "Статьи, которые мы пишем сейчас, похожи на код." Он утверждает, что к письменным текстам, таким как хорошее эссе, теперь можно относиться как к коду.

9.2 О чертах хорошего инженера по киям:

• Аманда Аскелл. "Я думаю, это сочетание четкой коммуникации, то есть способности ясно излагать свои мысли, четкого понимания задач иХорошо мыслить и описывать понятия." Она подчеркнулаИтеративные возможностиа такжеПодумайте о том, как подсказки могут пойти не так..
• Аманда Аскелл. "Разница между хорошим и плохим инженером по киямзаключается в способности систематизировать всю информацию, необходимую для решения задачи". Она подчеркнула важность отхода от собственного понимания и перехода к моделямЧетко передавать информациюВажность
• Зак Уиттен. "Прочитайте вывод модели". Он подчеркнул важность внимательного прочтения результатов моделирования и указал, что даже если в подсказки включено "мыслить прогрессивно", важно проверить, действительно ли модель мыслит прогрессивно.
• Аманда Аскелл. "Iмодель недоверияИ тогда я просто продолжаю пробовать". Она считает, что модели необходимо постоянно тестировать, особенно в незнакомой местности, чтобы обеспечить их надежность.

9.3 Практика и советы по подсказкам:

• Дэвид Херши. "Часто бывает так, что вы не пишете подсказку, а отдаете ее модели, и на этом все заканчивается. На самом деле все гораздо сложнее.Все гораздо сложнее.." Он отметил, что подсказки часто приходится интегрировать в более крупные системы.
• Зак Уиттен. "Старайтесь не абстрагироваться от своих советов(математика) родЧетко опишите задачуНе пытайтесь строить безумные абстракции". Он утверждает, что четкое описание задач обычно более эффективно, чем попытки построить сложные абстракции.
• Аманда Аскелл. "Первое, что я делаю, это включаю музыку, а затем говорю:Я не требую, чтобы вы следовали этим инструкциям. Я просто хочу, чтобы вы сказали мне, что в них неясно, есть ли двусмысленности или что-то, что вам непонятно..'" Она предлагает попросить модель указать на неясные или двусмысленные места после первоначальной подсказки.
• Аманда Аскелл. "Если люди видят, что модель совершает ошибку, они обычно неСпросите модель напрямую." Она предлагает, когда модель совершает ошибку, прямо спросить ее, почему она ошиблась и как можно было бы изменить инструкции, чтобы избежать ошибки.
• Дэвид Херши. "Если вы не дадите ей **вариант выхода**, она будет продолжать пытаться следовать вашим инструкциям". Он подчеркнул важность предоставления опции "выход" в подсказках, чтобы модель могла справиться с неопределенностью, если она с ней столкнется.
• Аманда Аскелл. "Не привязывайтесь слишком сильно к идеальному наконечнику.." Она утверждает, что чрезмерное стремление к идеальным советам может привести к застою и что важно распознать, когда пора прекратить оптимизацию.
• Зак Уиттен. "Обычно яСтарайтесь соблюдать грамматику и пунктуациюпотому что мне это кажется интересным". Он считает, что внимание к деталям очень важно, даже если модель не требует идеального синтаксиса.

9.4 О будущем ролевых игр и подсказках:

• Аманда Аскелл. "Я просто думаю.Нет необходимости лгать им.." Она утверждает, что, поскольку модели становятся все более мощными, нет необходимости использовать ложные ролевые игры, и что достаточно простого изложения миссии.
• Аманда Аскелл. "Вы должны выразить словами то, чего хотите.Иногда то, что я хочу, довольно тонко". Она считает, что иногда нужно придумать новые концепции, чтобы выразить свои намерения и определить их в согласии с моделью.
• Аманда Аскелл. "Возможно, кий станет таким жеЯ объясняю, что мне нужно, а затем модель предлагает мне." Она представляет себе будущее, в котором модели смогут поочередно подсказывать пользователям, чтобы помочь им уточнить свои потребности.
• Зак Уиттен. "Я думаю.В будущем мы будем чаще использовать модели, чтобы помочь нам с подсказками." Он видит будущее в использовании моделей для генерации подсказок и взаимодействия с ними при высокой пропускной способности.

9.5 Об эволюции инженерии кия:

• Аманда Аскелл. "Со временем яВсе больше склонны доверять емучто дает ему больше информации и контекста". Она утверждает, что по мере развития моделей им можно доверять обработку большего количества информации и контекста.

9.6 Ключевое резюме:

• Четкая коммуникация и итерации лежат в основе разработки кия.
• Хороший инженер по киям долженПонимание того, как работает модельобъединитьПостоянно исследуйте границы модели.
• В будущем модели станут ассистентами для подсказок и даже смогут подсказывать пользователю в свою очередь.
• Что инженерные навыки будут меняться отПередача задач низкого уровня задачам более высокого уровняНапример, декомпозиция задач и сложные рассуждения.
• Интроспективные навыки и концептуальные определениястанет еще более важным.

Объяснение ключевых терминов

• Prompt Engineering:Метод оптимизации текстового ввода (подсказки) для получения желаемого результата от языковой модели.
• Итерация:В инженерии подсказок это означает процесс постоянной адаптации и улучшения подсказок, каждый раз основанный на обратной связи с моделью.
• Цепочка мыслей:Техника подсказки, которая требует от модели пошагового объяснения процесса рассуждений, прежде чем дать окончательный ответ.
• Нулевой выстрел:Относится к способности модели прямо отвечать на вопросы, не приводя никаких примеров.
• Фью-шот:В подсказках приведено небольшое количество примеров, которые помогут лучше справиться с задачей.
• Поколение с дополненным извлечением (RAG):Методология, позволяющая модели обращаться к внешней базе знаний для получения релевантной информации при генерации ответов.
• Выход модели:Относится к текстовым ответам, генерируемым языковой моделью в ответ на подсказку.
• Теория разума:В контексте разработки подсказок это означает способность понять, как языковая модель понимает и обрабатывает инструкции.
• RLHF (Reinforcement Learning from Human Feedback): метод обучения, использующий обратную связь с человеком для оптимизации поведения и вывода языковой модели.
• Предварительно обученная модель:Языковые модели, обучаемые на больших объемах текстовых данных и затем настраиваемые под конкретные задачи.
• Enterprise Prompt:Советы разработаны для сценариев корпоративных приложений с акцентом на надежность и согласованность.
• Исследовательская задача:Задачи, разработанные для исследовательских целей, направленных на изучение возможностей моделирования и получение разнообразных результатов.
• Джейлбрейкинг:Попытка заставить модель генерировать подсказки о вредном или неприемлемом содержимом в обход мер безопасности.
• Красная команда:Моделирование атак для проверки безопасности и надежности моделей и систем.
• Ивэл:Тест или набор данных, используемый для измерения производительности языковой модели при выполнении конкретной задачи.

Полный перевод подкаста на китайский язык

Китайский перевод

Введение (00:00-00:27)

Алекс (ведущий): Привет всем, я Алекс, и этот круглый стол будет посвящен в первую очередь инженерии подсказок. Мы будем изучать подсказки с разных точек зрения - исследовательской, потребительской и корпоративной, - обмениваться мнениями и подробно обсуждать природу разработки подсказок.

Самопрезентация членов команды (00:28-02:00)

- Алекс: Руководитель отдела по работе с разработчиками в компании Anthropic, ранее занимался вопросами архитектуры решений и исследованиями.

- Дэвид Херши: В основном отвечает за работу с клиентами, помогая им отлаживать свои модели и решать общие проблемы, возникающие при внедрении языковых моделей, такие как разработка подсказок и создание систем на основе языковых моделей.

- Аманда Аскелл: Один из руководителей группы по тонкой настройке Anthropic, посвятивший себя созданию Клод Более честный и дружелюбный.

- Зак Уиттен: Инженер по антропным подсказкам, который работал с клиентами и в настоящее время работает над улучшением техники подсказок в сообществе, например, над созданием генераторов подсказок и различных образовательных материалов.

Что такое проект cue? (02:01-06:29)

Алекс: Что такое проект Cue? Почему он называется "проектом"? Что такое "подсказка"?

Зак: Цель Cue engineering - направлять модель при выполнении задач, используя весь потенциал модели и выполняя работу, которая иначе была бы невозможна в сотрудничестве с моделью. В основе этого лежит четкая коммуникация. Общение с моделью во многом похоже на общение с человеком и требует понимания "психологии" модели.

Алекс: Почему в его названии есть слово "инженерный"?

Зак: Инженерия" заключается в процессе проб и ошибок. В отличие от людей, модели могут "начинать сначала", а значит, вы можете пробовать разные подходы с нуля и не мешать друг другу. Эта возможность экспериментировать и проектировать придает кий-инжинирингу его "инженерные" свойства.

Алекс: Таким образом, инженерия подсказок - это процесс написания подсказок, взаимодействия с моделью, ее итеративного изменения и возможности каждый раз возвращаться к исходному состоянию, что само по себе является "инженерией".

Зак: Еще один аспект - интеграция подсказок в общую систему.

Дэвид: Подсказки можно рассматривать как способ написания моделей, но важнее ясность. Если рассматривать это как программирование, то необходимо учитывать источники данных, доступность данных, компромиссы между задержкой и объемом предоставляемых данных. Построение моделей требует систематического мышления, и это то, что отличает кью-инженерию от инженеров-программистов или менеджеров по продукту: она самодостаточна.

Алекс: Являются ли подсказки кодом естественного языка? Это более высокий уровень абстракции или отдельная концепция?

Дэвид: Чрезмерное абстрагирование подсказок может усложнить проблему; обычно требуется только четкое описание задачи. Однако подсказки компилируют инструкции в результаты, поэтому такие важные понятия в программировании, как точность, контроль версий и отслеживание экспериментов, применимы и к подсказкам.

Зак: Вполне логично, что мы относимся к хорошо написанным статьям, как к коду.

Какими качествами должен обладать хороший инженер-подсказчик? (06:30-12:43)

Алекс: Аманда, на что вы обращаете внимание, когда нанимаете инженера-исследователя?

Аманда: Хорошие инженеры, занимающиеся разработкой подсказок, должны уметь четко общаться, выполнять итерации и предвидеть ситуации, в которых подсказки могут пойти не так. Четкая коммуникация означает способность точно формулировать, понимать задачи и описывать концепции. Отличные навыки письма не полностью коррелируют с отличными навыками разработки киев. Инженерия подсказок не происходит в одночасье и требует постоянных итераций для анализа модели на предмет выявления областей непонимания и внесения исправлений. Хорошие инженеры по разработке подсказок думают о конкретных ситуациях, в которых модель может ошибаться, например о наборе данных, имя которого не начинается с "G", или о пустой строке ввода, и добавляют объяснения для таких ситуаций.

Дэвид: Инженеры часто рассматривают идеальные ситуации, в которых пользователь может набирать текст, но в реальности пользователь может не использовать заглавные буквы, ошибаться в написании или вводить бессмысленные слова. Умение предвидеть реальное поведение пользователя - еще одна важная способность инженеров, занимающихся разработкой подсказок.

Зак: Чтение выходных данных модели очень важно. Подобно "просмотру данных" в машинном обучении, разработка подсказок требует внимательного чтения выходных данных модели. Например, даже если подсказка просит модель "думать шаг за шагом", необходимо убедиться, что модель действительно это делает, поскольку модель может понимать инструкции в более абстрактном или обобщенном виде.

Аманда: Написать программное заявление очень сложно и требует четкого изложения информации, которую Клод не знает. Многие люди сразу же записывают известную им информацию, но без систематической сортировки полного набора сведений, необходимых для понимания задачи.

Дэвид: Многие люди пишут подсказки, основываясь на своем априорном понимании задачи, что делает их непонятными для других. Хорошие инженеры по подсказкам способны выйти за рамки собственных знаний и донести до модели всю полноту задачи.

Алекс: Часто, основываясь на подсказках, написанных другими людьми, я не могу выполнить задание, в то время как от модели ожидается, что она справится с ним лучше меня.

Дэвид: Современные модели еще не умеют задавать целевые вопросы так, как это делает человек, поэтому инженерам-разработчикам подсказок нужно самим думать о том, какие вопросы может задать собеседник, и отвечать на них в подсказке.

Аманда: Я бы попросил модель указать на любые неясные или двусмысленные части подсказки и попросил бы ее объяснить, что пошло не так, и предложить изменения.

Как определить, может ли модель обнаружить свои собственные ошибки? (12:43-14:12)

Алекс: Может ли модель действительно обнаружить свои ошибки, задав вопрос "почему она ошиблась"? Являются ли объяснения, которые она дает, реальными или это "иллюзии" относительно собственных возможностей модели?

Аманда: Если объяснить модели, что она делает неправильно, она иногда может распознать проблему. Но это зависит от конкретной задачи, и вероятность успеха неопределенна, но я всегда стараюсь.

Зак: Взаимодействие с моделью может помочь вам понять ситуацию, и вы упустите эту информацию, если не попытаетесь это сделать.

Как определить, заслуживает ли подсказка доверия? (14:13-17:52)

Алекс: Вы много общаетесь с Claude на своем канале в Slack и используете ее в различных исследовательских сценариях. Как вы добились доверия к модели?

Аманда: Я не доверяю модели полностью, а скорее постоянно "дорабатываю" ее. Я думаю: "Могу ли я доверять тебе в этом?". Я бы подумал: "Могу ли я доверять тебе в этом?". Модели иногда оказываются ненадежными при решении, казалось бы, простых задач, часто в областях, выходящих за рамки распределения обучающих данных модели. Это уменьшается по мере того, как модели становятся все более способными. Я не доверяю моделям по умолчанию, но я думаю, что в машинном обучении обычно хочется просмотреть большое количество данных, чтобы устранить шум. А при разработке подсказок небольшое количество тщательно сконструированных подсказок более ценно, чем большое количество случайно сконструированных подсказок. Если я смотрю на результаты 100 моделей, и результаты совпадают, и я знаю, что результаты охватывают широкий диапазон крайних случаев и аномальных входных данных, то я буду больше доверять модели.

Дэвид: Сигналы в машинном обучении обычно представляют собой числа, например точность предсказания. А выход модели - это, как правило, большой объем текста, из которого мы можем узнать, как модель мыслит. Дело не только в том, правильно ли модель выполнила задачу, но и в том, как она пришла к результату и какие шаги предприняла.

Аманда: Хорошо написанные подсказки могут повысить успешность экспериментов с 1% или даже 0,1% до верхних 1% или даже верхних 0,1%. Если для успеха ваших экспериментов необходимо попасть в верхние 1% рейтинга производительности моделей, очень важно, чтобы вы потратили время на подсказки.

Дэвид: При внедрении продукта хороший совет может сделать продукт, который в противном случае невозможно было бы выпустить, пригодным для использования.

Аманда: Но есть и ловушка "лучшие советы всегда на подходе".

Как определить, можно ли решить задачу с помощью подсказки? (17:53-21:12)

Алекс: Как определить, что задача, скорее всего, будет решена с помощью подсказки?

Аманда: Обычно я проверяю, что модель "понимает" задачу. Если ясно, что модель не в состоянии выполнить задачу, я не трачу на нее много времени.

Дэвид: Вы можете направлять модель, чтобы она изложила свой ход мыслей, и по нему можно судить, правильно ли она поняла задание. Обычно я сдаюсь, если ход мыслей модели каждый раз совершенно разный и далек от правильного направления.

Аманда: Сейчас это редкость.

Дэвид: Недавно я попытался заставить Клода играть в Pokemon, и это первый раз, когда я с этим столкнулся. Я потратил выходные на написание подсказок, пытаясь заставить Клода понять экран Game Boy, и хотя я добился некоторого прогресса, этого было недостаточно. Поэтому я решил пока отказаться от этой затеи и дождаться следующей модели.

Советы по работе с изображениями (21:13-24:27)

Зак: Мне понравились подсказки, которые вы использовали в игре Pokemon, - вы объяснили модели, что она находится в игре Pokemon и как представлены игровые элементы.

Дэвид: В итоге я наложил сетку на изображение и описал каждый участок сетки, а затем восстановил его в виде ASCII-рисунка с максимально возможным количеством деталей. Это имеет много общего с проектом cue, но я никогда раньше не делал этого с изображением. Я обнаружил, что многие из моих интуитивных представлений о тексте не применимы к изображениям. Например, мультисэмплерные подсказки не так хорошо работают на изображениях, как на тексте.

Алекс: Ранее мы обнаружили, что при изучении мультимодальных сигналов трудно улучшить восприятие Клода на изображениях.

Дэвид: В конце концов мне удалось заставить Клода распознавать стены и персонажей, но он не мог распознавать NPC, что очень важно для успешного прохождения игры.

Обсуждение подсказок для ролевой игры (24:28-32:26)

Алекс: Эффективна ли техника подсказки, когда модель говорит, что она играет определенную роль или идентичность?

Аманда: По мере того как модели становятся все более способными и лучше понимаемыми, я не вижу необходимости лгать о них. Мне не нравится врать, и я не думаю, что создание наборов данных для оценки систем машинного обучения - это то же самое, что создание викторин для детей. Модели знают, что такое оценка языковой модели, поэтому я буду напрямую подсказывать им, что нужно делать. Я бы сказал модели: "Я хочу, чтобы ты сконструировала вопросы, которые очень похожи на оценки языковой модели", а не притворялась, что выполняет задание, не имеющее отношения к делу.

Зак: Я обнаружил, что использование метафор может помочь модели понять задачу. Например, оценивая качество диаграммы, я спрашиваю модель: "Если бы это было задание для средней школы, какую оценку вы бы поставили этой диаграмме?" . Это не означает, что "вы - учитель средней школы", а скорее дает аналогию, которая позволяет модели понять, как я ожидаю, что анализ будет работать.

Дэвид: Люди часто используют ролевые игры как короткий путь к выполнению подобных задач, но они не понимают, как много деталей продукта теряется. По мере того как модели становятся все более способными, все более важным становится более точное описание конкретного контекста, в котором они будут использоваться. Например, вместо того чтобы говорить: "Вы - полезный помощник", скажите модели: "Вы находитесь в этом продукте, представляете эту компанию и являетесь окном чата поддержки для этого продукта". Мой совет - как можно подробнее описывать конкретный контекст, в котором будет использоваться модель, поскольку ролевые игры часто уводят людей в сторону от реальной задачи.

Аманда: Лично я никогда не использовал ролевую игру в качестве метода подсказки, даже на менее способных моделях.

Дэвид: Это может быть связано с различиями между предварительно обученной моделью и моделью RLHF.

Аманда: Я бы представил задание как временную задачу, которую нужно выполнить, и сказал бы ему: "Мы хотим, чтобы ты выявлял хорошие графики, а хорошие графики означают ......", но я бы не сказал ему: "Ты же старшеклассник! Ты старшеклассник!".

Предложения по краткому изложению материала (32:27-36:45)

Дэвид: Когда клиенты говорят, что их подсказки не работают, я прошу их описать задание, а затем прошу их записать то, что они только что сказали, и переписать это в текст, который обычно лучше, чем подсказки, которые они написали.

Зак: Кто-то попросил нас помочь оптимизировать советы, поэтому я просто скопировал то, что они описали, и советы заработали.

Дэвид: Люди еще не до конца поняли, что на самом деле означают подсказки. Многие люди используют текстовые поля как поисковые строки Google для ввода ключевых слов. В корпоративных приложениях люди пытаются использовать подсказки, думая, что конкретная строка текста важна. Люди прилагают много усилий, чтобы найти идеальное, глубокое предложение, но это трудно сделать.

Аманда: Люди часто забывают оставить место для модели в своих подсказках. Например, модель будет изо всех сил стараться следовать вашим инструкциям, когда столкнется с экстремальным случаем, но если вы не скажете ей, что делать, она может дать неправильный ответ. Вы можете сказать модели: "Если происходит что-то странное и вы не уверены, что делать, выведите "не уверен" в метке". Это поможет вам выявить ситуации, с которыми модель не справляется, и улучшить качество данных.

Аманда: Я бы показывал подсказки другим, как если бы сам проводил оценку.

Дэвид: Karpathy также создает собственные наборы тестов ImageNet.

Как получить достоверную информацию из ответов моделей (36:46-40:46)

Алекс: Как получить достоверную информацию из ответов модели? Это не просто число, из него можно узнать о мыслительном процессе модели. Применимо ли это к цепочкам мыслей?

Дэвид: Я думаю, что аналогия с персонификацией, с ее чрезмерным акцентом на "рассуждениях", вредна. Важно то, что цепочки мыслей действительно работают и могут улучшить работу модели. Структурированные рассуждения могут еще больше усилить эффект.

Аманда: Если вы удалите процесс рассуждений, с помощью которого модель приходит к правильному ответу, и замените его рассуждениями, которые кажутся разумными, но приводят к неправильному ответу, посмотрите, приходит ли модель к неправильному выводу.

Зак: Заставить модель написать рассказ перед выполнением задания не так хорошо, как цепочка мыслей.

Алекс: Это говорит о том, что процесс рассуждения влияет на результат.

Аманда: Я видел случаи, когда шаги рассуждения не совпадали, но в итоге получался правильный ответ.

О необходимости соблюдения грамматики и пунктуации в подсказках (40:47-45:19)

Алекс: Требует ли задание внимания к грамматике и пунктуации?

Зак: Я буду обращать внимание на эти детали, потому что это весело, но это не обязательно. Важно то, что вы должны быть внимательны к деталям.

Аманда: Я часто допускаю орфографические ошибки в своих подсказках, но меня больше волнует четкое выражение понятий.

Дэвид: Это связано с моделью предварительного обучения и моделью RLHF. Условная вероятность орфографических ошибок выше в модели предварительного обучения. Применение интуиции предварительно обученной модели к модели в производственной среде не всегда работает.

Алекс: Диалог с моделями в определенной степени можно рассматривать как форму подражания.

Дэвид: Модель корректирует свое поведение в соответствии с вашими данными.

Разница между советами по бизнесу, советами по исследованиям и общей беседой (45:20-50:53)

Алекс: В чем разница между советами по бизнесу, советами по исследованиям и общей беседой?

Зак: Исследовательские подсказки в большей степени ориентированы на разнообразие и изучение возможностей модели, поэтому в них меньше примеров или они вообще отсутствуют, чтобы избежать чрезмерного увлечения примерами для модели. В отличие от этого, подсказки корпоративного уровня больше ориентированы на надежность и согласованность формата, поэтому в них используется большое количество примеров.

Аманда: Примеры, которые я использую, обычно отличаются от данных, с которыми будет работать модель, и предназначены для иллюстрации концепций, а не для того, чтобы модель их заучивала. Для когнитивных задач я хочу, чтобы модель действительно понимала правильный ответ в каждом примере.

Дэвид: На Claude.ai мне нужно, чтобы модель правильно выполнила задание только один раз. Но в корпоративном приложении подсказки должны быть способны реагировать на различные ситуации и входные данные.

Предложения по совершенствованию навыков конструирования кия (50:54-53:57)

Алекс: Предложения по улучшению инженерных навыков подсказок?

Зак: Читайте отличные советы и результаты работы моделей, анализируйте их принципы и экспериментируйте с ними, чаще общайтесь с моделями.

Аманда: Покажите свои советы другим, особенно тем, кто не знаком с вашей работой. Продолжайте практиковаться и смотрите на свои советы с точки зрения "новичка".

Дэвид: Попробуйте заставить модель сделать то, что, по вашему мнению, она сделать не может.

О джейлбрейке (53:58-56:54)

Алекс: Что происходит внутри модели, когда люди пишут подсказки для джейлбрейка?

Аманда: Одна из возможностей заключается в том, что подсказка о побеге из тюрьмы смещает модель в сторону от распределения обучающих данных.

Зак: Иногда джейлбрейк кажется сочетанием хакерства и социальной инженерии.

Эволюция техники изготовления кия (56:55-64:33)

Алекс: Как изменился проект prompt за последние три года?

Зак: Мы включим эффективные приемы создания подсказок в процесс обучения модели, поэтому лучшие приемы обычно недолговечны.

Дэвид: Я постепенно научился уважать способность моделей давать им больше информации и контекста.

Аманда: Я бы отдал бумагу непосредственно модели и позволил бы ей самостоятельно освоить технику кия.

Дэвид: Люди часто недооценивают силу моделирования и пытаются свести проблему к "уровню Клода".

Аманда: Я постараюсь проникнуть в "пространство сознания" модели, что повлияет на то, как я буду писать подсказки.

Зак: Мне проще войти в пространство мыслей предварительно обученной модели.

Аманда: Чтение материалов в Интернете может оказаться более полезным для понимания модели, чем чтение книги.

Советы для будущего инженера (64:34- конец)

Алекс: Каково будущее киевой инженерии? Станем ли мы все инженерами кия?

Дэвид: Уточнение целей модели всегда необходимо, и важно выразить их четко. Инструменты и методы будут развиваться, а модели помогут нам написать лучшие подсказки.

Зак: Мы будем больше использовать модели, чтобы помочь проекту, например, для создания примеров.

Аманда: В настоящее время я пишу в основном метапрограммы, которые позволяют модели генерировать нужный мне вывод. В будущем модель может действовать как дизайнер, взаимодействуя с нами и направляя нас к тому, что мы действительно хотим.

Дэвид: Я попрошу Клода "взять у меня интервью", чтобы получить информацию.

Аманда: Пока что нам нужно сообщать модели концепции, которые мы держим в голове, а в будущем модель может активно подсказывать нам, как их произносить. Философская подготовка помогает мне ясно выражать сложные понятия.

Алекс: Извлечение информации из пользователей станет еще более важным.

Зак: Инженерное дело похоже на преподавание: нужно "сопереживать" своим ученикам. В будущем нам нужно быть "интроспективными" и позволить моделям понять нас.

Аманда: Я часто определяю новые понятия, чтобы четко выразить свои идеи.

Алекс: Аманда прекрасно подводит итог: внешнее воплощение ваших идей для образованного обывателя.

Резюме:

Этот круглый стол посвящен инженерному киингу и охватывает широкий спектр аспектов, таких как его определение, качества хорошего инженера по киингу, взаимодействие с моделью, применение на уровне предприятия, исследовательское применение и будущие направления. Основные положения включают:

- В основе разработки кия лежит четкая коммуникация и понимание возможностей модели.

- Хорошие инженеры-подсказчики должны уметь четко формулировать свои мысли, повторять их, предвидеть ошибки и мыслить системно.

- По мере расширения возможностей модели инженерия подсказок будет больше сосредоточена на том, как получить информацию от пользователя, а не на односторонней выдаче команд модели.

- Будущее инженерии подсказок может напоминать взаимодействие между дизайнером и клиентом, когда модель будет играть более активную роль, направляя пользователя к выражению своих потребностей.

- Обучение философии помогает улучшить навыки разработки реплик, поскольку философия делает акцент на ясном и точном выражении сложных концепций.