Към съдържанието

Thought: вътрешно Reasoning и подходът ReAct

Thought е вътрешният монолог на Agent-а: текст, в който моделът обмисля задачата, преди да реши какво да направи.

Моделът няма отделно място, където да мисли. Той разсъждава, като пише. Текстът на един Thought става част от prompt-а и влияе на всичко, което моделът генерира след него. Затова, когато го накараме първо да запише разсъжденията си, следващият му ход обикновено е по-добър.

Откъде идва един Thought? От инструкцията в system prompt-а, която видя в предишната секция: моделът трябва първо да напише ред, започващ с Thought:.

С помощта на Thoughts един Agent може да:

  • разбие сложна задача на по-малки стъпки;
  • прецени последния Observation и да реши какво следва;
  • промени плана си, когато получи нова информация.

Един Thought може да бъде много неща: план („ще разделя задачата на три стъпки“), анализ („грешката изглежда е в параметрите“), решение („при този бюджет ще препоръчам средния вариант“) или саморефлексия („предишният подход не проработи, ще опитам друг“). Важното е едно: моделът първо записва какво мисли, а после действа.

Бележка: При модели, fine-tuned за function calling, записването на Thought не е задължително. Ще видим защо в секцията за Actions.

Chain-of-Thought (CoT) е начин да напишем prompt-а така, че моделът да обмисли задачата стъпка по стъпка, преди да даде финален отговор. Най-простият вариант е да добавим към prompt-а изречението „Let’s think step by step.“

При CoT моделът разсъждава само „наум“, без да използва tools. Затова техниката е подходяща за логически и математически задачи:

Question: What is 15% of 200?
Thought: Let's think step by step. 10% of 200 is 20, and 5% of 200 is 10, so 15% is 30.
Answer: 30

ReAct комбинира разсъждаване („Reasoning“) с действие („Acting“). Моделът пак мисли стъпка по стъпка, но между мислите си използва tools и получава резултатите им:

  • Thought: моделът разсъждава.
  • Action: моделът иска tool.
  • Observation: моделът получава резултата от tool-а.
Thought: I need to find the latest weather in Paris.
Action: {"action": "GetWeather", "action_input": {"location": "Paris"}}
Observation: It's 18°C and cloudy.
Thought: Now I know the weather and can answer.
Final Answer: It's 18°C and cloudy in Paris.

Това е същият цикъл Thought-Action-Observation от предишната секция. ReAct е името на техниката, която стои зад него.

Характеристика Chain-of-Thought (CoT) ReAct
Логика стъпка по стъпка Да Да
Външни tools Не Да (Actions + Observations)
Най-подходящ за Логика, математика, задачи без външни данни Търсене на информация, динамични многостъпкови задачи