1. Въведение: малка добавка, голяма промяна
При използването на ИИ има едно изненадващо просто, но полезно прозрение: понякога не е достатъчно да поискаме само отговор. По-добре е първо да поискаме задачата да бъде подредена.
Затова указанието „разсъждавай стъпка по стъпка, преди да отговориш“ бързо влезе в набора от инструменти на потребителите на ИИ. То не е магическа формула, но разкрива нещо съществено: добрият резултат често идва от правилното разделяне на проблема на части.
Последователното разсъждение е техника, при която ИИ се насочва да разгледа сложна задача стъпка по стъпка, преди да даде окончателен отговор. Изследванията показват, че този вид промптиране подобрява представянето на големите езикови модели особено при аритметика, задачи, изискващи здрав разум, и символни разсъждения.[1]
Не става дума само за по-добри промпти. Това е нов начин да извършваме мисловна работа заедно с машина.
2. Какво означава последователно разсъждение?
Терминът означава верига от мисловни стъпки или последователно разсъждение. На практика от ИИ не се иска да прескочи направо към резултата, а да премине през междинни етапи.
Прост пример:
Обикновен промпт:
Изчисли маржиналната печалба на компанията при приходи от 100 000 евро и променливи разходи от 62 000 евро.
Промпт за последователно разсъждение:
Реши задачата стъпка по стъпка. Първо определи формулата, замести числата и накрая дай отговора.
Разликата е малка, но съществена. В първия случай ИИ може бързо да даде верен отговор. Във втория е насочен да изгради отговора по-логично.
Важно уточнение: в съвременните усъвършенствани услуги с ИИ моделът може да разсъждава вътрешно, но потребителят не винаги вижда цялата верига от стъпки. OpenAI обяснява, че моделите за разсъждение използват вътрешна верига от мисловни стъпки, за да разбират и планират сложни задачи.[2]
Затова най-подходящото указание за потребителя невинаги е „покажи цялото си мислене“, а например: „Реши задачата внимателно, стъпка по стъпка, и накрая дай ясен, обоснован отговор.“
3. Защо мисленето стъпка по стъпка помага?
И хората грешат, когато се опитват да решат твърде много неща наведнъж. Същото важи за ИИ. Ако задачата съдържа няколко условия, изключения, числа, цели или противоречия, директният отговор може да се окаже погрешен.
Последователното разсъждение помага по три начина.
Първо, то налага разделяне на проблема. ИИ не разглежда задачата като неразчленено цяло, а като по-малки части.
Второ, то намалява прибързаните изводи. Моделът не просто отгатва най-вероятния отговор, а изгражда решението постепенно.
Трето, то често прави резултата по-лесен за проверка. Когато поискате моделът да посочи поне основните основания, по-лесно виждате къде може да е възникнала грешка.
Това е особено полезно, когато задачата изисква мислене, а не просто намиране на информация: стратегия, анализ, вземане на решения, изчисления, приоритизиране, оценка на риска или сложен текст.
4. Откъде тръгна този подход?
Последователното разсъждение привлече по-широко внимание през 2022 г., когато изследователи показаха, че големите езикови модели се представят по-добре при многостъпкови задачи, ако получат примери за последователно разсъждение.[1]
През същата година друго изследване показа, че дори простото указание „Нека мислим стъпка по стъпка“ може да подобри представянето на моделите при редица задачи за разсъждение без отделни примери. Това се нарича последователно разсъждение без примери: моделът получава само задачата и общо указание да мисли поетапно.[3]
По-късно бяха разработени и техники като проверка за съгласуваност: моделът създава няколко различни пътя на разсъждение, а от тях се избира най-съгласуваният отговор. В изследванията това подобри резултатите при няколко теста за разсъждение.[4]
Следващата стъпка беше дървото на мислите, при което ИИ не следва само една мисловна верига, а изследва няколко възможни пътя към решението, оценява ги и може да се върне назад.[5]
Така един прост съвет за промптиране прерасна в цялостен интерфейс за мислене.
5. Последователното разсъждение на практика
Последователното разсъждение е особено подходящо, когато качеството на отговора зависи от качеството на разсъжденията. Добри приложения са например:
- оценяване на бизнес решения
- пазарен анализ
- превръщане на стратегията в конкретни действия
- разпознаване на рискови клаузи в договори
- бюджетиране и изчисления
- структуриране на решенията при подбор на персонал
- анализ на клиентска обратна връзка
- учебни задачи и учене
- отстраняване на технически неизправности
- писане, при което трябва да се изгради аргументация
Подходът не е особено полезен, когато ви трябва прост факт. Ако попитате „Коя е столицата на Финландия?“, последователното разсъждение почти не добавя стойност. Ако попитате „Защо международното разрастване на финландска растяща компания често се проваля при първото разширяване на търговската организация?“, мисленето стъпка по стъпка вече има смисъл.
6. Слаб, по-добър и отличен промпт
Слаб пример
Анализирай тази идея.
Това е твърде общо. ИИ не знае върху какво да се съсредоточи: пазара, рисковете, нуждите на клиентите, конкуренцията, технологията или финансирането.
По-добър пример
Анализирай тази идея за стартъп стъпка по стъпка. Разгледай проблема на клиента, целевата група, конкуренцията, модела на приходи и най-големите рискове.
Тук моделът вече получава структура.
Отличен пример
Действай като опитен съветник на стартъпи. Анализирай идеята стъпка по стъпка по следния начин:
1) Какъв проблем се решава?
2) За кого проблемът е толкова важен, че е готов да плати за решението?
3) Каква е сегашната алтернатива?
4) Какъв може да бъде минимално жизнеспособният продукт (MVP), тоест първата опростена тестова версия?
5) Кои са трите най-големи риска?
6) Какво трябва да се тества през следващите 30 дни?Накрая дай кратка препоръка.
Този промпт задава роля, структура, критерии за оценка и краен резултат. Той не просто иска разсъждение, а го насочва в правилната посока.
7. Гледната точка на отделния човек: по-добро мислене, а не само по-добри отговори
За отделния човек последователното разсъждение е преди всичко опора за мисленето. То помага, когато главата е пълна с възможности. ИИ може да бъде събеседник, който пита: „Какво всъщност се опитваш да решиш? Какви са вариантите? Какво ще стане, ако избереш А? А ако избереш Б?“
За учащия това може да означава по-добро учене. Не просто отговор на изпитен въпрос, а обяснение как се стига до отговора.
За специалиста това може да е обсъждане с партньор. Юристът може да очертае аргументация. Консултантът може да провери аналитична рамка. Ръководителят може да поиска от ИИ да оцени решение от гледна точка на различни заинтересовани страни.
Има обаче опасност твърде лесно да прехвърлим мисленето на машината. Добрият потребител не пита ИИ: „Какво да мисля?“. Той пита: „Помогни ми да обмисля това по-добре.“
8. Гледната точка на компаниите: нова опора при вземането на решения
В компаниите стойността на последователното разсъждение се вижда особено ясно при вземането на решения. Много организации потъват в информация, без непременно да стигат до по-добри решения. Данните са много, но тълкуването им е разпокъсано. ИИ може да добави между тях разумна структура за разсъждение.
Например търговският директор може да поиска:
Анализирай данните за продажбите през последното тримесечие стъпка по стъпка. Разграничи проблемите с обема, конверсията, ценообразуването и разликите между клиентските сегменти. Накрая предложи три действия.
Такъв промпт не заменя ръководителя. Той ускорява предварителното обмисляне.
Важното за компаниите е следното: стойността на ИИ не идва само от автоматизацията. Автоматизация означава работата да се върши от машина. Последователното разсъждение помага за качеството на решенията, анализите и плановете. То прилича повече на опорна конструкция за мисленето, отколкото на робот.
9. Гледната точка на стартъпите: по-бърз цикъл на учене
За стартъпите последователното разсъждение може да е особено ценно, защото младите компании рядко разполагат с излишни време, пари или хора. Основателите постоянно трябва да вземат решения в условия на несигурност:
- кой клиентски сегмент да изберат първо
- коя функционалност да разработят
- кога да променят цените
- как да представят историята си на инвеститорите
- кога има смисъл да променят посоката
ИИ може да помогне тези решения да станат по-ясни. Например:
Оцени дали да се съсредоточим върху малки и средни предприятия или върху големи корпоративни клиенти. Направи анализа стъпка по стъпка през призмата на цикъла на продажба, готовността за плащане, изискванията към продукта, клиентските препоръки, паричния поток и уменията на екипа.
Това не дава сигурен отговор. Но може да разкрие, че екипът взема решение по усещане, вместо по реални критерии.
В света на стартъпите бързината е важна. Още по-важна е обаче скоростта на учене. Последователното разсъждение може да помогне по-бързо да задаваме по-добри въпроси.
10. Технологична гледна точка: защо това не е просто трик с промпт?
Последователното разсъждение работи, защото големите езикови модели добре моделират не само езика, но и изразените чрез него структури на разсъждение. Те не „мислят“ като хората. Предсказват текст въз основа на научени закономерности. Но тъй като голяма част от човешките разсъждения, решаването на проблеми и аргументацията са запечатани в езика, моделите могат изненадващо ефективно да имитират и използват тези структури.
Разликата е съществена: ИИ не непременно разбира света като човек. Но може да създава полезни вериги от разсъждения, ако задачата е формулирана добре.
Затова промптирането се превърна във важно умение. Промптът не е просто въпрос. Той е задание. Добрият промпт посочва:
- каква роля има ИИ
- към каква цел се стремим
- каква информация може да се използва
- по какви критерии се оценява отговорът
- в какъв формат искаме отговора
- как трябва да се изрази несигурността
Това е по-близо до управление, отколкото до използване на търсачка.
11. Рискове и капани
Последователното разсъждение не прави ИИ безпогрешен. Напротив: понякога поетапният отговор може да изглежда толкова убедителен, че грешката да се забелязва по-трудно. Основните рискове са следните.
1. Убедително, но погрешно разсъждение
ИИ може да изгради привидно логична последователност върху грешни предположения. Резултатът изглежда разумен, въпреки че изходната точка е погрешна.
2. Халюцинации
Моделът може да измисля източници, термини, подробности или обосновки. Това е особено опасно при правни, медицински, финансови и свързани със сигурността теми.
3. Прекомерно доверие
Когато отговорът е дълъг и добре структуриран, потребителят може да приеме, че е и верен. Формата обаче не гарантира съдържанието.
4. Прехвърляне на мисленето на машината
Ако човек използва ИИ, за да замени собствената си преценка, качеството на решенията може да се влоши. ИИ е подходящ за обсъждане, но не и за поемане на отговорност.
5. Неразбиране на скритото разсъждение
Не всички модели показват действителните си вътрешни разсъждения. Изследванията също посочват, че видимото разсъждение, създадено от модела, невинаги отразява надеждно начина, по който е възникнал отговорът. Anthropic изследва този въпрос особено при моделите за разсъждение.[6]
12. Етична гледна точка: прозрачността не е равнозначна на истина
Последователното разсъждение звучи прозрачно. Моделът обяснява как е стигнал до отговора. Но тук има капан.
Обяснението може да е създадено постфактум. То може да е история, която се харесва на потребителя, а не действителната причина за отговора. Това затруднява оценяването на ИИ.
От етична гледна точка е важно да разграничим три неща:
- Разсъждение — как моделът обработва проблема.
- Обосновка — как моделът обяснява отговора си на потребителя.
- Проверимост — дали човек може да провери твърденията чрез външни източници.
При отговорна употреба последователното разсъждение не означава „ИИ го обясни, следователно е вярно“. То означава, че потребителят получава по-добра основа, върху която да провери идеята.
13. Последователното разсъждение като част от по-голямата промяна в работата
В работата протича тиха промяна. Първо ИИ се използваше за създаване на текст. После — за обобщаване. Днес все по-често се използва за структуриране на мисленето.
Това променя експертната работа. Преди добрият специалист беше човекът, който знае много. Днес все по-често това е човекът, който умее да задава правилните въпроси, да оценява отговорите и да изгражда по-добри процеси за вземане на решения.
Това не намалява значението на знанията. Увеличава го. Колкото по-малко разбирате от темата, толкова по-трудно е да оцените отговора на ИИ. Колкото повече разбирате, толкова по-добре можете да използвате ИИ като усилвател на собственото мислене.
Следователно ИИ не обезсмисля експертните знания. Той вдига летвата.
14. Бъдещето: накъде се развива последователното разсъждение?
1. От видимо мислене към вътрешно разсъждение
Усъвършенстваните модели за разсъждение извършват все повече от него вътрешно. Потребителят вижда крайния резултат, кратка обосновка и евентуално стъпки за проверка, а не цялата необработена мисловна верига.
2. Няколко алтернативи вместо един път
Методи като дървото на мислите развиват подход, при който моделът сравнява няколко възможни решения, вместо просто да следва първия правдоподобен път.[5]
3. ИИ агентите се нуждаят от по-добро разсъждение
Агент е система с ИИ, която не само отговаря, а може да планира, да използва инструменти и да изпълнява задачи. Колкото по-самостоятелно действат агентите, толкова по-важно е тяхното планиране и разсъждение да подлежат на надзор.
4. Промптирането се превръща в проектиране на процеси
В бъдеще може би няма да говорим за отделни промпти, а за работни процеси: как ИИ събира информация, проверява предположенията, оценява рисковете, създава алтернативи и иска решение от човек.
5. Първоначалният шум утихва
„Разсъждавай стъпка по стъпка“ невинаги е най-доброто указание. При проста задача то може да направи отговора излишно дълъг. Когато задачата изисква факти, проверката на източниците е по-важна. При творческа задача прекалено строгата последователност може дори да ограничи мисленето.
Реалистичното бъдеще не е последователното разсъждение да реши всичко. То е мисленето стъпка по стъпка да стане едно от основните умения при работа с ИИ.
15. Изводи: най-важният урок е начинът на мислене, а не промптът
Най-голямата стойност на последователното разсъждение не е в думите „разсъждавай стъпка по стъпка“. Тя е в това, че учи потребителя да формулира проблема по-добре.
Когато поискате от ИИ да мисли поетапно, често се налага и сами да изясните:
- какво решавате
- по какви критерии се оценява отговорът
- каква информация е необходима
- какви рискове трябва да се отчетат
- как изглежда добрият резултат
Това е ценно независимо дали използвате ИИ.
Добрият промпт за последователно разсъждение не е заклинание. Той е малък управленски акт. Дава на ИИ посока, структура и граници на отговорността.
Може би затова е толкова важен: напомня, че в ерата на ИИ най-доброто конкурентно предимство не е само по-бързият отговор. То е по-добрият въпрос.
16. Практически модели и работни шаблони
Шаблон за начинаещи
Използвайте това, когато задачата е сложна, но не знаете откъде да започнете:
Реши това стъпка по стъпка.
1) Първо определи проблема.
2) Разпознай най-важните фактори.
3) Предложи 2–3 алтернативни решения.
4) Оцени ползите и рисковете им.
5) Накрая дай препоръка с ясна обосновка.
Шаблон за специалисти
Анализирай темата от гледна точка на специалист. Разграничи фактите, предположенията и несигурните моменти. Изгради разсъждението стъпка по стъпка, но покажи на потребителя само основните основания и окончателната препоръка. Отбележи кои места изискват проверка чрез външни източници.
Шаблон за бизнес решение
Оцени решението от следните гледни точки:
• стратегическо въздействие
• финансово въздействие
• въздействие върху клиентите
• въздействие върху персонала
• рискове
• алтернативна ценаНакрая препоръчай решение: да действаме, да не действаме или да проучим допълнително.
Шаблон за 30-дневен тест на стартъп
Превърни тази идея в проверим 30-дневен експеримент. Определи:
1) основното предположение
2) най-бързия тест
3) необходимите ресурси
4) показателя за успех
5) решението след експеримента.
Контролен списък за добър промпт за последователно разсъждение
Добрият промпт посочва: какво се решава, за кого е отговорът, в каква роля действа ИИ, какви стъпки трябва да използва, какви ограничения има, какъв резултат се очаква и как да се изрази несигурността.
Безопасен основен промпт
Обмисли задачата внимателно, стъпка по стъпка, преди да отговориш. Не измисляй факти. Ако нещо е несигурно, кажи го ясно. Накрая дай кратък, практичен и обоснован отговор.
Източници
- Промптирането с последователно разсъждение предизвиква разсъждения в големите езикови модели — arXiv (Wei и съавтори, 2022)
- Проектиране на промпти — OpenAI API
- Големите езикови модели разсъждават и без примери — arXiv (Kojima и съавтори, 2022)
- Проверката за съгласуваност подобрява последователното разсъждение в езиковите модели — arXiv
- Дърво на мислите: целенасочено решаване на проблеми с големи езикови модели — arXiv
- Моделите за разсъждение невинаги казват какво мислят — изследване на Anthropic