CoT (Chain-of-Thought) Цепочка мыслей

AKA: Цепь мыслей

Определение и обоснование "Цепочки мыслей

"Цепочка мышления" (сокращенно ЦМ) - это метод мышления, основанный на принципе создания цепочки, состоящей из ряда связанных между собой шагов. Метод помогает людям более системно подходить к решению проблем и генерировать творческие идеи, разбивая процесс мышления на ряд упорядоченных шагов. Метод применим к различным сценариям мышления, таким как инновации, принятие решений, решение проблем и т. д. Основная идея метода CoT заключается в том, чтобы разбить большую проблему на ряд более мелких, а затем разбить каждую из мелких проблем на еще более мелкие, пока на каждую проблему не будет дан простой и однозначный ответ. Таким образом, можно лучше понять проблему и найти лучшее решение.

Мы можем сравнить "Цепь мыслей" с головоломкой, где каждый кусочек представляет собой аспект проблемы, и только соединив эти кусочки, мы можем получить полный ответ. Например, когда мы изучаем новые знания, мы можем использовать цепочку мышления для установления взаимосвязи между различными пунктами знаний, чтобы лучше понять и запомнить их; когда мы решаем проблему, мы можем использовать цепочку мышления для разбивки проблемы на несколько подпроблем, а затем решать их шаг за шагом, чтобы в итоге получить полное решение. решение.

Интерпретация области больших данных

Процесс подсказки Chain of Thought (CoT) - это недавно разработанный метод подсказки, который побуждает большие языковые модели объяснять свои процессы рассуждения. На рисунке ниже показано сравнение стандартной подсказки с несколькими выстрелами (слева) и процесса подсказки "Цепочка мыслей" (справа).

Придумайте новый вопрос о том, как заставить большую модель рассчитать этот вопрос абсолютно правильно:
Курица несет шесть яиц в день. Сегодня я собрал яйца один раз и съел половину из них. На следующий день я снова собрал яйца и съел два из них, а на третий день я снова собрал яйца, сколько яиц у меня теперь осталось?

существоватьWei et al. (2022) (открывается в новой вкладке)Введенные подсказки Chained Thinking (CoT) обеспечивают возможность сложных рассуждений с помощью промежуточных шагов. Вы можете комбинировать их с подсказками без примеров, чтобы получить лучшие результаты при решении более сложных задач, в которых рассуждения предшествуют ответам.

Основная идея цепочки мыслей заключается в том, чтобы объяснить процесс рассуждений в примерах, показывая небольшое количество примеров большой языковой модели, которая также отображает процесс рассуждений при ответе на подсказки. Такое объяснение рассуждений часто приводит к более точным результатам.

Примеры из реальной жизни

Цепное мышление CoT можно встретить и в повседневной жизни. Например, когда мы готовим, нам нужно сначала подготовить ингредиенты, затем приготовить их и, наконец, подать на стол. Это типичный процесс цепного мышления CoT. Например, когда мы изучаем новые знания, нам нужно сначала понять основы, а затем изучить продвинутый контент.

Мы можем сравнить "Цепь мыслей" с головоломкой, где каждый кусочек представляет собой аспект проблемы, и только соединив эти кусочки, мы можем получить полный ответ. Например, когда мы изучаем новые знания, мы можем использовать цепочку мышления для установления взаимосвязи между различными пунктами знаний, чтобы лучше понять и запомнить их; когда мы решаем проблему, мы можем использовать цепочку мышления для разбивки проблемы на несколько подпроблем, а затем решать их шаг за шагом, чтобы в итоге получить полное решение. решение.

преимущества и недостатки

Цепочка мыслей (ЦМ) - это метод мышления, который повышает эффективность и качество мышления за счет разбиения процесса мышления на ряд органично связанных между собой этапов. К его преимуществам относятся:

1. Помогает людям лучше организовывать и контролировать поток идей, что приводит к более эффективному решению проблем.
2. поддержка непрерывного мышления и поощрение творческого подхода.
3. отслеживая процесс мышления, можно лучше контролировать и оптимизировать его качество.
4. может использоваться для решения сложных проблем, начиная от организации и заканчивая инновациями.

Недостатки CoT:

1. CoT требует большой базы знаний и аналитических навыков и не подходит для новичков
2. CoT требует времени и мыслительных усилий, и его трудно использовать в условиях жестких временных ограничений
3. образ мышления у всех разный, поэтому CoT может быть не лучшим способом мышления для разных людей.

Классификация методов КОТ

От меньшего к большему (Советы от меньшего к большему)

CoT хорошо работает с легкими задачами, но не с трудными. А Least-to-Most Prompting в основном используется для решения трудных задач.

Наименьшее количество подсказок

Идея Least-to-Most Prompting также очень проста: разбейте вопрос на более простые подвопросы, а затем отвечайте на них по очереди, чтобы получить ответ на первоначальный вопрос:

В дополнение к вышесказанному, еще один прием - добавить несколько сэмплов (few-shots) к подсказке, что может значительно улучшить результаты. Этот прием также встречается в CoT и является очень универсальным способом улучшения результатов.

В статье представлены две основные структуры подсказок, предназначенные для решения различных задач в конкретной реализации (небольшое количество примеров в подсказке опущено):

1. Давайте разберем эту проблему.

Такой подходвызывать один разLLM сначала генерирует подпроблемы, затем генерирует ответ на каждую подпроблему и окончательный ответ. Таким образом, стандартизация вывода LLM в значительной степени зависит от образцов.

2.Чтобы решить "****", нужно сначала решить: "****", "****", "****", ... subproblem2>**", "****", ...

Такой подходитерация (математика)Сформируйте ответы на подвопросы, обобщите всю информацию, а затем подготовьте окончательный ответ.

Я понимаю, что конкретные слова-подсказки (**разобрать** или **первое решение**) не важны, важно то, чтоСначала разбейте задачу на подзадачи.сноваиндивидуальный ответМыслительный процесс.

Эффект: