- Ang chain-of-thought prompting ay gumagabay sa mga modelo ng AI na mangatuwiran nang sunud-sunod, na tinutulungan silang malutas ang mga kumplikadong gawain nang mas tumpak kaysa sa simpleng hulaan ang susunod na salita.
- Pinakamainam itong gamitin para sa mga multi-step na problema, tulad ng math, logic puzzle, o procedural tasks, ngunit hindi kailangan para sa simpleng factual o single-step na query.
- Ang maagap na pag-chain ay naiiba sa chain-of-thought na pag-prompt sa pamamagitan ng paghahati ng isang gawain sa maraming magkakahiwalay na prompt, samantalang ang chain-of-thought ay nananatili sa loob ng isang mabilis na daloy ng pagtugon.
Kung gumamit ka ng GPT chatbot tulad ng ChatGPT , malamang na napansin mo ang iba't ibang kalidad ng output.
Minsan ay inilalabas nito ang eksaktong kailangan mo. Sa ibang pagkakataon, pinaghihinalaan mo na ang 'katalinuhan' sa AI ay medyo isang komedya.
Maaari mong gawing mas mataas ang iyong laro ChatGPT sa pamamagitan ng pagpapabuti kung paano mo ito ipo-prompt. Hinihikayat ng chain-of-thought prompt ang mga ahente LLM na mangatuwiran sa pamamagitan ng hakbang-hakbang na gawain bago bumuo ng tugon.
Ang mga bagong modelo at feature ng AI ay nagsisimula nang direktang bumuo sa chain-of-thought na pangangatwiran , upang awtomatikong mangatuwiran ang kanilang mga modelo sa problema nang walang anumang karagdagang pag-prompt.
Ano ang chain-of-thought prompting?
Ang chain-of-thought prompting ay isang agarang engineering technique sa AI na nagtuturo sa mga modelo na hatiin ang mga kumplikadong gawain, na nangangatuwiran sa bawat hakbang bago tumugon.
Maaari mo ring marinig ang terminong 'chain-of-thought reasoning'. Ito ay tumutukoy sa hakbang-hakbang na proseso na gagawin ng modelo sa pangangatwiran sa pamamagitan ng gawaing nasa kamay.
Ang mga modelo ng OpenAI o1 ay hindi nangangailangan ng chain-of-thought prompting, dahil mayroon na silang chain-of-thought reasoning na built in. Ngunit maaari mong gamitin ang chain-of-thought prompting sa anumang LLM -powered chatbot.
Paano gumagana ang chain-of-thought reasoning?
Ang chain-of-thought na pangangatwiran ay nangangailangan ng paghahati-hati ng problema sa mas maliit, lohikal na mga hakbang para malutas ng AI chatbot sa pagkakasunud-sunod.
Una, tinutukoy ng AI ang mga pangunahing bahagi ng problema. Pagkatapos ay pinoproseso nito ang bawat bahagi sa pagkakasunud-sunod, isinasaalang-alang kung paano humahantong ang isang hakbang sa susunod. Ang bawat hakbang ay bubuo sa nauna, na nagbibigay-daan sa AI na lumipat sa isang lohikal na konklusyon.
Mga halimbawa ng chain-of-thought prompting
Ang sikat na 'strawberry' prompt
ChatGPT at iba pa LLMs may mahusay na dokumentado na mga kahinaan. Ang isa ay ang kanilang kawalan ng kakayahang matukoy nang tama kung ilang 'R's ang nasa salitang 'strawberry'. (Malamang ang sikat na limitasyon sa likod ng code name ng mga modelong o1: Strawberry.)
ChatGPT -4o ay hindi gumagamit ng chain-of-thought reasoning. Sa halip, tinutukoy nito ang data ng pagsasanay nito at bumubuo ng tugon batay sa kung gaano malamang na sundin ng bawat salita ang nauna. Bagama't ito ay maaaring tunog sa karamihan ng oras, ito ay bumubuo lamang upang gayahin ang wika ng tao - hindi pangangatwiran o pagsasagawa ng pananaliksik.
Kapag tinanong mo ChatGPT -4o ang sikat na tanong na strawberry, hindi nito maibigay ang tamang sagot:
Gayunpaman, maaari kang gumamit ng chain-of-thought prompting technique upang matulungan ang LLM -Powered chatbot dumating sa tamang sagot:
Ang pinakabagong pag-ulit ng ChatGPT , pinapagana ng OpenAI o1-preview, ay ang unang major LLM na gumamit ng chain-of-thought reasoning nang walang anumang karagdagang pag-udyok.
Binabasag nito ang sagot sa unang pagsubok, dahil inutusan itong awtomatikong sundin ang parehong proseso gaya ng pangalawa ChatGPT -4o prompt sa itaas. Ang pagkakaiba lang ay ginagawa nito ang prosesong ito nang walang karagdagang pag-udyok.
Math
Kung nagtanong ka ng mas lumang bersyon ng ChatGPT isang tanong sa matematika mula sa isang aklat-aralin sa elementarya, hindi ito palaging magiging tama.
Ang mga multi-step na problema sa matematika ay nangangailangan ng pangangatwiran, na wala sa mas maaga LLMs . Maaari mong hatiin ang bawat hakbang ng problema, ngunit kung hindi mo alam ang mga tamang hakbang, an LLM hindi nakakatulong.
ChatGPT Nagagawa ng -4o na ipaliwanag ang sagot sa tanong sa pamamagitan ng paghahati-hati sa serye ng mga hakbang sa problema:
Mga Ahente ng AI na konektado sa Hubspot
Para sa isang real world application, gawin natin ang isang LLM -powered AI agent na isinama sa Hubspot. Ginagamit ng isang sales team ang AI agent na ito para magproseso ng mga bagong lead habang sila ay natipon sa mga channel.
Sitwasyon
Nagpapadala ang isang salesperson ng bagong lead sa AI agent at hihilingin itong irehistro ito sa Hubspot at magpadala ng unang touchpoint na email, ngunit huwag itong punan kung gumagana ang lead sa isang kumpanya na isa nang prospect.
LLM nang walang chain-of-thought reasoning
Ang LLM -powered AI agent ay nagrerehistro ng lead at nagpapadala ng email nang hindi tinitingnan kung ang kumpanya ay isa nang prospect, nawawala ang pangunahing kondisyon.
LLM na may chain-of-thought reasoning
Ang LLM -Sinusuri ng ahente ng pinapagana ng AI kung ang kumpanya ay isa nang prospect bago kumilos. Kung ito ay isang inaasam-asam, nilalaktawan nito ang pagpaparehistro at pag-email; kung hindi, irerehistro nito ang lead at ipapadala ang email, na sinusunod nang tumpak ang mga tagubilin ng salesperson.
Kailan ko dapat gamitin ang chain of thought prompting?
Pinakamabuting gamitin ang chain-of-thought prompt sa mga sitwasyong nangangailangan ng sunud-sunod na pangangatwiran.
Ang mga pangunahing kandidato ay mga gawain na may kinalaman sa mga lohikal na pagbabawas, mga problema sa matematika, mga gawain sa pamamaraan, o anumang sitwasyon na nangangailangan ng maraming hakbang na mga sagot.
Ngunit teka: ang pangangatwiran ay mukhang mahusay - bakit hindi ko ito gagamitin sa lahat ng oras?
Magandang tanong. Hindi lahat ng tanong ay nangangailangan ng pangangatwiran. Halimbawa:
- Mga simpleng tanong sa katotohanan, tulad ng 'Ano ang kabisera ng Canada?'
- Mga problema sa isang hakbang, tulad ng 'Ano ang 145 + 37?'
- Mga gawain sa pagbuo ng nilalaman, tulad ng 'Sumulat ng magalang na 3-pangungusap na email na nagtatanong sa aking kasamahan kung tapos na ba sila sa kanilang proyekto.'
Pag-prompt ng pagbabago kumpara sa chain-of-thought prompting
Bagama't magkapareho ang pangalan, ang prompt chaining at chain-of-thought prompting ay magkaibang mga diskarte sa pag-prompt para mapahusay ang generative AI output.
Chain-of-thought prompting
Sa pamamagitan ng chain-of-thought prompting, ginagabayan ng isang user ang AI upang ipaliwanag ang pangangatwiran sa likod ng sagot nito sa iisang tugon. Ito ay nag-uudyok sa AI na dumaan sa bawat hakbang ng proseso ng paglutas ng problema, ngunit ito ay nagagawa sa iisang prompt at tugon.
Halimbawa, ang isang chain-of-thought prompt ay maaaring magawa sa isang mensahe:
"Kailangang suriin ng isang HR team ang 5 pagsusuri sa performance ng empleyado. Ang bawat isa ay tatagal ng 30 minuto at kailangan nila ng 15 minuto upang maghanda bago. Ang mga senior eval ay mangangailangan ng dagdag na 10 minuto bawat isa. Gaano katagal bago makumpleto ang 5 senior at 25 junior evals? Hatiin ang iyong pangangatuwiran nang hakbang-hakbang."
Prompt chaining
Sa prompt chaining, ang gawain ay nahahati sa magkakahiwalay na mga hakbang na may maraming mga prompt, bawat gusali sa nakaraang resulta. Nakakatulong ito sa pagbuo at paggabay sa AI sa isang kumplikadong gawain na malamang na nagsasangkot ng pangangatwiran.
Ang unang prompt ay maaaring magmukhang:
Prompt 1 : Tukuyin ang mga pangunahing hamon na maaaring harapin ng kumpanya kapag lumipat sa malayong trabaho.
Output :
- Mga gaps sa komunikasyon
- Pagpapanatili ng pagiging produktibo
- Imprastraktura ng teknolohiya
- Pakikipag-ugnayan ng empleyado
Ang mga susunod na senyas ay maaaring sumabak pa sa mga konseptong ito. Halimbawa:
Prompt 2 : Mangyaring sabihin sa akin kung paano makakahanap ng mga solusyon ang isang kumpanya sa mga gaps sa komunikasyon kapag lumipat sa malayong trabaho.
Pagkatapos ng susunod na round ng output, ang susunod na link ng chain ay maaaring:
Prompt 3 : Ano ang mga karaniwang hamon na kinakaharap ng mga kumpanya kapag pinagtibay nila ang mga solusyong ito?
Kaya't habang magkapareho ang dalawa, iba't ibang paraan ang ginagawa nila sa pagkuha ng pinakamalalim at may-katuturang nilalaman mula sa mga generative na tool ng AI.
Naka-on ang chain-of-thought prompting Botpress
Botpress pamilyar na ang mga user sa isang feature na gumagamit ng chain-of-thought reasoning.
Nag-debut ang Autonomous Node noong Hulyo ng 2024 noong Botpress , isang platform para sa pagbuo ng mga ahente ng AI. Ang Autonomous Node ay may kakayahang mag-automate ng mga multi-step na daloy ng trabaho at gumawa ng mga desisyon nang awtomatiko.
Ang isang Autonomous Node ay maaaring gawin at i-prompt gamit ang isang simpleng linya ng text, tulad ng 'Ang iyong layunin ay bumuo ng mga kwalipikadong lead. Lumikha ng mga lead sa Salesforce kapag nagpahiwatig ang isang user ng layunin sa pagbili.'
Ang ahente ng AI na binuo mo gamit ang Autonomous Node na ito ay magsasagawa ng iba't ibang mga aksyon upang makamit ang layunin nito, na independyente sa mga daloy ng trabaho na idinisenyo ng mga tao. Maaari rin itong lumipat sa pagitan ng iba't ibang LLMs kung kinakailangan, paggawa ng desisyon na unahin ang bilis o kapangyarihan.
Bumuo ng custom na autonomous na ahente
Botpress ay ang tanging platform ng ahente ng AI na nagbibigay-daan sa iyong bumuo ng mga tunay na nagsasarili na ahente.
Ang bukas at nababaluktot Botpress Nagbibigay-daan ang studio para sa walang katapusang mga kaso ng paggamit sa mga industriya, mula sa HR hanggang sa lead generation. Ang aming pre-built integration library at malawak na mga tutorial ay nagbibigay-daan sa mga user na madaling bumuo ng mga AI agent mula sa simula.
Simulan ang pagtatayo ngayon. Ito'y LIBRE.
Mga FAQ
Kapaki-pakinabang lang ba ang chain-of-thought na pag-udyok para sa mga modelo ng AI, o nagpapakita rin ba ito ng paglutas ng problema ng tao?
Talagang sinasalamin nito kung paano nireresolba ng mga tao ang mga kumplikadong problema sa pamamagitan ng paghahati-hati sa mga ito sa mga hakbang kaya ito ay parehong kapaki-pakinabang na pamamaraan para sa AI at isang salamin ng natural na pangangatwiran ng tao.
Paano naiiba ang chain-of-thought reasoning sa "pag-iisip ng hakbang-hakbang"?
Ang mga ito ay malapit na nauugnay, ngunit ang chain-of-thought na pangangatwiran ay mas nakabalangkas at sinadya. Hinihikayat nito ang AI na ipaliwanag ang lohika nito nang malakas, sa halip na tumalon lamang sa isang sagot.
Bakit ginagawa ang ilan LLMs hindi gumamit ng chain-of-thought reasoning bilang default?
Ang mga nauna o mas maliliit na modelo ay hindi sinanay na tahasang mangatuwiran, kaya malamang na hulaan nila ang mga sagot batay sa mga pattern sa halip na mga lohikal na hakbang maliban kung sinenyasan kung hindi man.
Ang chain-of-thought ba ay nag-uudyok ng isang paraan ng "pagsasanay" ang modelo sa panahon ng hinuha?
Hindi eksakto. Hindi mo binabago ang kaalaman ng modelo, naiimpluwensyahan lamang nito kung paano nito iniisip ang isang problema sa sandaling ito sa pamamagitan ng paggabay sa gawi nito na may mas mahusay na mga tagubilin.
Palagi bang nagpapabuti sa katumpakan ang chain-of-thought prompting?
Hindi palagi. Ito ay pinakamahusay na gumagana sa mga gawain na nangangailangan ng pangangatwiran, ngunit maaari itong talagang gawing kumplikado ang mga bagay para sa mga simpleng tanong at humantong sa mga hindi kinakailangang hakbang o kahit na mga pagkakamali.
.png)
