Thought: вътрешно Reasoning и подходът ReAct
Thought е вътрешният монолог на Agent-а: текст, в който моделът обмисля задачата, преди да реши какво да направи.
Моделът няма отделно място, където да мисли. Той разсъждава, като пише. Текстът на един Thought става част от prompt-а и влияе на всичко, което моделът генерира след него. Затова, когато го накараме първо да запише разсъжденията си, следващият му ход обикновено е по-добър.
Откъде идва един Thought? От инструкцията в system prompt-а, която видя в предишната секция: моделът трябва първо да напише ред, започващ с Thought:.
С помощта на Thoughts един Agent може да:
- разбие сложна задача на по-малки стъпки;
- прецени последния Observation и да реши какво следва;
- промени плана си, когато получи нова информация.
Един Thought може да бъде много неща: план („ще разделя задачата на три стъпки“), анализ („грешката изглежда е в параметрите“), решение („при този бюджет ще препоръчам средния вариант“) или саморефлексия („предишният подход не проработи, ще опитам друг“). Важното е едно: моделът първо записва какво мисли, а после действа.
Бележка: При модели, fine-tuned за function calling, записването на Thought не е задължително. Ще видим защо в секцията за Actions.
Chain-of-Thought (CoT)
Секция „Chain-of-Thought (CoT)“Chain-of-Thought (CoT) е начин да напишем prompt-а така, че моделът да обмисли задачата стъпка по стъпка, преди да даде финален отговор. Най-простият вариант е да добавим към prompt-а изречението „Let’s think step by step.“
При CoT моделът разсъждава само „наум“, без да използва tools. Затова техниката е подходяща за логически и математически задачи:
Question: What is 15% of 200?Thought: Let's think step by step. 10% of 200 is 20, and 5% of 200 is 10, so 15% is 30.Answer: 30ReAct: Reasoning + Acting
Секция „ReAct: Reasoning + Acting“ReAct комбинира разсъждаване („Reasoning“) с действие („Acting“). Моделът пак мисли стъпка по стъпка, но между мислите си използва tools и получава резултатите им:
- Thought: моделът разсъждава.
- Action: моделът иска tool.
- Observation: моделът получава резултата от tool-а.
Thought: I need to find the latest weather in Paris.Action: {"action": "GetWeather", "action_input": {"location": "Paris"}}Observation: It's 18°C and cloudy.Thought: Now I know the weather and can answer.Final Answer: It's 18°C and cloudy in Paris.Това е същият цикъл Thought-Action-Observation от предишната секция. ReAct е името на техниката, която стои зад него.
ReAct срещу CoT
Секция „ReAct срещу CoT“| Характеристика | Chain-of-Thought (CoT) | ReAct |
|---|---|---|
| Логика стъпка по стъпка | Да | Да |
| Външни tools | Не | Да (Actions + Observations) |
| Най-подходящ за | Логика, математика, задачи без външни данни | Търсене на информация, динамични многостъпкови задачи |