Kung gumamit ka ng GPT chatbot tulad ng ChatGPT , malamang na napansin mo ang iba't ibang kalidad ng output.
Minsan ay inilalabas nito ang eksaktong kailangan mo. Sa ibang pagkakataon, pinaghihinalaan mo na ang 'katalinuhan' sa AI ay medyo isang komedya.
Maaari mong gawing mas mataas ang iyong laro ChatGPT sa pamamagitan ng pagpapabuti kung paano mo ito ipo-prompt. Hinihikayat ng chain-of-thought prompt ang isang LLM upang mangatuwiran sa pamamagitan ng isang gawain nang hakbang-hakbang bago bumuo ng isang tugon.
Ang mga bagong modelo at feature ng AI ay nagsisimula nang direktang bumuo sa chain-of-thought na pangangatwiran , upang awtomatikong mangatuwiran ang kanilang mga modelo sa problema nang walang anumang karagdagang pag-prompt.
Ano ang chain-of-thought prompting?
Ang chain-of-thought prompting ay isang agarang engineering technique sa AI na nagtuturo sa mga modelo na hatiin ang mga kumplikadong gawain, na nangangatuwiran sa bawat hakbang bago tumugon.
Maaari mo ring marinig ang terminong 'chain-of-thought reasoning'. Ito ay tumutukoy sa hakbang-hakbang na proseso na gagawin ng modelo sa pangangatwiran sa pamamagitan ng gawaing nasa kamay.
Ang mga modelo ng OpenAI o1 ay hindi nangangailangan ng chain-of-thought prompting, dahil mayroon na silang chain-of-thought reasoning na built in. Ngunit maaari mong gamitin ang chain-of-thought prompting sa anumang LLM -powered chatbot.
Paano gumagana ang chain-of-thought reasoning?
Ang chain-of-thought na pangangatwiran ay nangangailangan ng paghahati-hati ng problema sa mas maliit, lohikal na mga hakbang para malutas ng AI chatbot sa pagkakasunud-sunod.
Una, tinutukoy ng AI ang mga pangunahing bahagi ng problema. Pagkatapos ay pinoproseso nito ang bawat bahagi sa pagkakasunud-sunod, isinasaalang-alang kung paano humahantong ang isang hakbang sa susunod. Ang bawat hakbang ay bubuo sa nauna, na nagbibigay-daan sa AI na lumipat sa isang lohikal na konklusyon.
Mga halimbawa ng chain-of-thought prompting
Ang sikat na 'strawberry' prompt
ChatGPT at iba pa LLMs may mahusay na dokumentado na mga kahinaan. Ang isa ay ang kanilang kawalan ng kakayahang matukoy nang tama kung ilang 'R's ang nasa salitang 'strawberry'. (Malamang ang sikat na limitasyon sa likod ng code name ng mga modelong o1: Strawberry.)
ChatGPT -4o ay hindi gumagamit ng chain-of-thought reasoning. Sa halip, tinutukoy nito ang data ng pagsasanay nito at bumubuo ng tugon batay sa kung gaano malamang na sundin ng bawat salita ang nauna. Bagama't ito ay maaaring tunog sa karamihan ng oras, ito ay bumubuo lamang upang gayahin ang wika ng tao - hindi pangangatwiran o pagsasagawa ng pananaliksik.
Kapag tinanong mo ChatGPT -4o ang sikat na tanong na strawberry, hindi nito maibigay ang tamang sagot:
Gayunpaman, maaari kang gumamit ng chain-of-thought prompting technique upang matulungan ang LLM -Powered chatbot dumating sa tamang sagot:
Ang pinakabagong pag-ulit ng ChatGPT , pinapagana ng OpenAI o1-preview, ay ang unang major LLM na gumamit ng chain-of-thought reasoning nang walang anumang karagdagang pag-udyok.
Binabasag nito ang sagot sa unang pagsubok, dahil inutusan itong awtomatikong sundin ang parehong proseso gaya ng pangalawa ChatGPT -4o prompt sa itaas. Ang pagkakaiba lang ay ginagawa nito ang prosesong ito nang walang karagdagang pag-udyok.
Math
Kung nagtanong ka ng mas lumang bersyon ng ChatGPT isang tanong sa matematika mula sa isang aklat-aralin sa elementarya, hindi ito palaging magiging tama.
Ang mga multi-step na problema sa matematika ay nangangailangan ng pangangatwiran, na wala sa mas maaga LLMs . Maaari mong hatiin ang bawat hakbang ng problema, ngunit kung hindi mo alam ang mga tamang hakbang, an LLM hindi nakakatulong.
ChatGPT Nagagawa ng -4o na ipaliwanag ang sagot sa tanong sa pamamagitan ng paghahati-hati sa serye ng mga hakbang sa problema:
Mga Ahente ng AI na konektado sa Hubspot
Para sa isang real world application, gawin natin ang isang LLM -powered AI agent na isinama sa Hubspot. Ginagamit ng isang Sales team ang AI agent na ito para magproseso ng mga bagong lead habang sila ay natipon sa mga channel.
Sitwasyon
Nagpapadala ang isang salesperson ng bagong lead sa AI agent at hihilingin itong irehistro ito sa Hubspot at magpadala ng unang touchpoint na email, ngunit huwag itong punan kung gumagana ang lead sa isang kumpanya na isa nang prospect.
LLM nang walang chain-of-thought reasoning
Ang LLM Inirerehistro ng ahente ng AI na pinapatakbo ang lead at ipinapadala ang email nang hindi tinitingnan kung ang kumpanya ay isang prospect na, nawawala ang pangunahing kondisyon.
LLM na may chain-of-thought reasoning
Ang LLM -Sinusuri ng ahente ng pinapagana ng AI kung ang kumpanya ay isa nang prospect bago kumilos. Kung ito ay isang inaasam-asam, nilalaktawan nito ang pagpaparehistro at pag-email; kung hindi, irerehistro nito ang lead at ipapadala ang email, na sinusunod nang tumpak ang mga tagubilin ng salesperson.
Kailan ko dapat gamitin ang chain of thought prompting?
Pinakamabuting gamitin ang chain-of-thought prompt sa mga sitwasyong nangangailangan ng sunud-sunod na pangangatwiran.
Ang mga pangunahing kandidato ay mga gawain na may kinalaman sa mga lohikal na pagbabawas, mga problema sa matematika, mga gawain sa pamamaraan, o anumang sitwasyon na nangangailangan ng maraming hakbang na mga sagot.
Ngunit teka: ang pangangatwiran ay mukhang mahusay - bakit hindi ko ito gagamitin sa lahat ng oras?
Magandang tanong. Hindi lahat ng tanong ay nangangailangan ng pangangatwiran. Halimbawa:
- Mga simpleng tanong sa katotohanan, tulad ng 'Ano ang kabisera ng Canada?'
- Mga problema sa isang hakbang, tulad ng 'Ano ang 145 + 37?'
- Mga gawain sa pagbuo ng nilalaman, tulad ng 'Sumulat ng magalang na 3-pangungusap na email na nagtatanong sa aking kasamahan kung tapos na ba sila sa kanilang proyekto.'
Naka-on ang chain-of-thought prompting Botpress
Botpress pamilyar na ang mga user sa isang feature na gumagamit ng chain-of-thought reasoning.
Nag-debut ang Autonomous Node noong Hulyo ng 2024 noong Botpress , isang platform para sa pagbuo ng mga ahente ng AI. Ang Autonomous Node ay may kakayahang mag-automate ng mga multi-step na daloy ng trabaho at gumawa ng mga desisyon nang awtomatiko.
Ang isang Autonomous Node ay maaaring gawin at i-prompt gamit ang isang simpleng linya ng text, tulad ng 'Ang iyong layunin ay bumuo ng mga kwalipikadong lead. Lumikha ng mga lead sa Salesforce kapag nagpahiwatig ang isang user ng layunin sa pagbili.'
Ang ahente ng AI na binuo mo gamit ang Autonomous Node na ito ay magsasagawa ng iba't ibang mga aksyon upang makamit ang layunin nito, na independyente sa mga daloy ng trabaho na idinisenyo ng mga tao. Maaari rin itong lumipat sa pagitan ng iba't ibang LLMs kung kinakailangan, paggawa ng desisyon na unahin ang bilis o kapangyarihan.
Bumuo ng iyong sariling autonomous agent
Botpress ay ang tanging platform ng ahente ng AI na nagbibigay-daan sa iyong bumuo ng mga tunay na nagsasarili na ahente.
Ang bukas at nababaluktot Botpress Nagbibigay-daan ang studio para sa walang katapusang mga kaso ng paggamit sa mga industriya, mula sa HR hanggang sa lead generation. Ang aming pre-built integration library at malawak na mga tutorial ay nagbibigay-daan sa mga user na madaling bumuo ng mga AI agent mula sa simula.
Simulan ang pagtatayo ngayon. Ito'y LIBRE.
Talaan ng mga Nilalaman
Manatiling napapanahon sa mga pinakabago sa AI chatbots
Ibahagi ito sa: