Czym jest podpowiadanie łańcucha myśli?

Jeśli korzystałeś z chatbotaGPT , takiego jak ChatGPT, prawdopodobnie zauważyłeś zróżnicowaną jakość wyników. 

Czasami wypluwa dokładnie to, czego potrzebujesz. Innym razem można podejrzewać, że "inteligencja" sztucznej inteligencji to farsa. 

Możesz przenieść swoją grę ChatGPT na wyższy poziom, ulepszając sposób jej podpowiadania. Podpowiadanie łańcucha myśli zachęca agentów LLM do wnioskowania o zadaniu krok po kroku przed wygenerowaniem odpowiedzi. 

Nowsze modele i funkcje sztucznej inteligencji zaczynają wbudowywać bezpośrednie rozumowanie łańcucha myśli, dzięki czemu ich modele automatycznie analizują problem bez żadnych dodatkowych podpowiedzi.

Czym jest podpowiadanie łańcucha myśli?

Podpowiadanie łańcucha myśli to technika inżynierii podpowiedzi w sztucznej inteligencji, która instruuje modele, aby rozbijały złożone zadania, analizując każdy krok przed udzieleniem odpowiedzi. 

Można również usłyszeć termin "rozumowanie łańcuchowe". Odnosi się to do procesu krok po kroku, który model podejmie, aby zrozumieć zadanie. 

ModeleOpenAI o1 nie wymagają podpowiadania łańcucha myśli, ponieważ mają już wbudowane rozumowanie oparte na łańcuchu myśli. Można jednak używać podpowiedzi opartych na łańcuchu myśli w dowolnym chatbocie obsługiwanym przez LLM.

Jak działa rozumowanie łańcuchowe?

Rozumowanie oparte na łańcuchu myśli wiąże się z podzieleniem problemu na mniejsze, logiczne kroki, które chatbot AI może rozwiązać w kolejności.

Najpierw sztuczna inteligencja identyfikuje kluczowe części problemu. Następnie przetwarza każdą część w sekwencji, biorąc pod uwagę, w jaki sposób jeden krok prowadzi do następnego. Każdy krok opiera się na poprzednim, pozwalając sztucznej inteligencji metodycznie zmierzać w kierunku logicznego wniosku.

Przykłady podpowiedzi łańcucha myśli 

Słynna podpowiedź "truskawka

ChatGPT i inne LLMs mają dobrze udokumentowane słabości. Jedną z nich jest niezdolność do poprawnego określenia liczby liter "R" w słowie "truskawka" (prawdopodobnie słynne ograniczenie kryjące się za nazwą kodową modeli o1: Strawberry).

ChatGPT-4o nie wykorzystuje rozumowania łańcuchowego. Zamiast tego odwołuje się do swoich danych szkoleniowych i generuje odpowiedź na podstawie prawdopodobieństwa, że każde słowo następuje po poprzednim. Chociaż może to brzmieć poprawnie przez większość czasu, generuje tylko naśladowanie ludzkiego języka - a nie rozumowanie lub prowadzenie badań. 

Gdy zadasz ChatGPT-4o słynne pytanie o truskawki, nie będzie w stanie udzielić poprawnej odpowiedzi:

‍

Można jednak użyć techniki podpowiadania łańcucha myśli, aby pomóc chatbotowi LLM w uzyskaniu prawidłowej odpowiedzi:

‍

Najnowsza wersja ChatGPT, obsługiwana przez OpenAI o1-preview, jest pierwszą dużą LLM , która wykorzystuje rozumowanie łańcuchowe bez żadnych dodatkowych podpowiedzi. 

Znajduje odpowiedź za pierwszym razem, ponieważ został poinstruowany, aby automatycznie wykonać ten sam proces, co drugi monit ChatGPT-4o powyżej. Jedyną różnicą jest to, że wykonuje ten proces bez dodatkowych monitów. 

Matematyka

Gdybyś zadał starszej wersji ChatGPT pytanie matematyczne z podręcznika dla szkoły podstawowej, nie zawsze odpowiedziałaby poprawnie.  

Wieloetapowe problemy matematyczne wymagają rozumowania, które nie było obecne we wcześniejszych LLMs. Można było rozbić każdy krok problemu, ale jeśli nie znało się prawidłowych kroków, strona LLM nie mogła pomóc.

ChatGPT-4o jest w stanie uzasadnić odpowiedź na pytanie, rozkładając serię kroków w problemie:

Agenci AI połączeni z Hubspot

Dla rzeczywistego zastosowania, weźmy agenta AI LLM, który został zintegrowany z Hubspot. Zespół sprzedaży używa tego agenta AI do przetwarzania nowych potencjalnych klientów, gdy są oni gromadzeni w różnych kanałach. 

Scenariusz

‍Sprzedawca wysyła nowego leada do agenta AI i prosi go o zarejestrowanie go w Hubspot i wysłanie pierwszego e-maila touchpoint, ale nie wypełnia go, jeśli lead pracuje w firmie, która jest już potencjalnym klientem.

LLM bez rozumowania łańcuchowego

‍ Agent AILLM rejestruje potencjalnego klienta i wysyła wiadomość e-mail bez sprawdzania, czy firma jest już potencjalnym klientem, pomijając kluczowy warunek.

LLM z rozumowaniem łańcuchowym

‍Agent sztucznej inteligencji LLM sprawdza, czy firma jest już potencjalnym klientem przed podjęciem działań. Jeśli jest potencjalnym klientem, pomija rejestrację i wysyłanie wiadomości e-mail; jeśli nie, rejestruje potencjalnego klienta i wysyła wiadomość e-mail, postępując dokładnie zgodnie z instrukcjami sprzedawcy.

Kiedy powinienem używać podpowiedzi łańcucha myśli?

Podpowiadanie łańcucha myśli najlepiej sprawdza się w scenariuszach, które wymagają rozumowania krok po kroku.

Najlepszymi kandydatami są zadania wymagające logicznej dedukcji, problemy matematyczne, zadania proceduralne lub wszelkie sytuacje wymagające wieloetapowych odpowiedzi. 

Ale czekaj: rozumowanie brzmi świetnie - dlaczego nie miałbym go używać przez cały czas?

Dobre pytanie. Nie wszystkie pytania wymagają rozumowania. Na przykład:

• Proste, rzeczowe pytania, takie jak "Jaka jest stolica Kanady?".
• Problemy jednoetapowe, takie jak "Ile to jest 145 + 37?".
• Zadania związane z generowaniem treści, takie jak "Napisz uprzejmą wiadomość e-mail składającą się z 3 zdań, w której zapytasz mojego kolegę, czy skończył już swój projekt".

Zmiana podpowiedzi a podpowiedź łańcucha myśli

Choć podobne w nazwie, łańcuchy podpowiedzi i podpowiedzi łańcucha myśli to różne strategie podpowiedzi mające na celu poprawę generatywnych wyników sztucznej inteligencji.  

Podpowiadanie łańcucha myśli

W przypadku podpowiedzi opartych na łańcuchu myśli, użytkownik kieruje sztuczną inteligencję, aby wyjaśniła rozumowanie stojące za jej odpowiedzią w pojedynczej odpowiedzi. Skłania to sztuczną inteligencję do przejścia przez każdy etap procesu rozwiązywania problemu, ale odbywa się to za pomocą pojedynczego podpowiedzi i odpowiedzi.

Na przykład, podpowiedź łańcucha myśli może być zrealizowana w jednej wiadomości: 

"Zespół HR musi przejrzeć 5 ocen wydajności pracowników. Każda z nich zajmie 30 minut i potrzebują 15 minut na wcześniejsze przygotowanie. Oceny seniorów będą wymagały dodatkowych 10 minut na każdą. Ile czasu zajmie przeprowadzenie 5 ocen seniorów i 25 ocen juniorów? Przedstaw swoje rozumowanie krok po kroku".

Prompt chaining 

Dzięki łańcuchowaniu podpowiedzi zadanie jest podzielone na osobne kroki z wieloma podpowiedziami, z których każda opiera się na poprzednim wyniku. Pomaga to ustrukturyzować i poprowadzić sztuczną inteligencję przez złożone zadanie, które prawdopodobnie wymaga rozumowania.

Pierwszy monit może wyglądać następująco:

Podpowiedź 1: Zidentyfikuj główne wyzwania, przed którymi może stanąć firma, przechodząc na pracę zdalną.

Wyjście: 

• Luki w komunikacji
• Utrzymanie wydajności
• Infrastruktura technologiczna
• Zaangażowanie pracowników

Kolejne podpowiedzi mogą pogłębiać te koncepcje. Na przykład:

Podpowiedź 2: Powiedz mi, w jaki sposób firma może znaleźć rozwiązania dla luk komunikacyjnych podczas przechodzenia na pracę zdalną.

Po następnej rundzie wyjścia, kolejnym ogniwem łańcucha może być:

Podpowiedź 3: Jakie są najczęstsze wyzwania, przed którymi stają firmy przyjmujące te rozwiązania?

Tak więc, chociaż oba są podobne, przyjmują różne podejścia do wydobywania najbardziej dogłębnych i odpowiednich treści z generatywnych narzędzi AI.

Podpowiedź dotycząca łańcucha myśli Botpress

Botpress Użytkownicy są już zaznajomieni z funkcją wykorzystującą rozumowanie łańcuchowe. 

Autonomiczny węzeł zadebiutował w lipcu 2024 roku na Botpress, platformie do tworzenia agentów AI. Autonomiczny węzeł jest w stanie zautomatyzować wieloetapowe przepływy pracy i autonomicznie podejmować decyzje. 

Autonomiczny węzeł można utworzyć i wyświetlić monit za pomocą prostej linii tekstu, na przykład "Twoim celem jest generowanie wykwalifikowanych potencjalnych klientów. Twórz leady w Salesforce, gdy użytkownik wskaże zamiar zakupu".

Agent AI zbudowany przy użyciu tego autonomicznego węzła podejmie różne działania, aby osiągnąć swój cel, niezależnie od przepływów pracy zaprojektowanych przez ludzi. W razie potrzeby może również przełączać się między różnymi stronami LLMs , podejmując decyzję o priorytecie szybkości lub mocy.

Tworzenie niestandardowego autonomicznego agenta

Botpress to jedyna platforma agentów AI, która umożliwia tworzenie prawdziwie autonomicznych agentów. 

Otwarte i elastyczne Botpress Studio pozwala na nieskończoną liczbę przypadków użycia w różnych branżach, od HR po generowanie leadów. Nasza wstępnie zbudowana biblioteka integracji i obszerne samouczki pozwalają użytkownikom łatwo tworzyć agentów AI od podstaw.

Zacznij budować już dziś. To nic nie kosztuje.

Lub skontaktuj się z naszym zespołem sprzedaży. 

Najczęściej zadawane pytania

1. Czy podpowiadanie łańcucha myśli jest przydatne tylko dla modeli sztucznej inteligencji, czy też odzwierciedla również rozwiązywanie problemów przez ludzi?

Podpowiadanie łańcucha myśli jest przydatne zarówno dla modeli sztucznej inteligencji, jak i odzwierciedla ludzkie rozwiązywanie problemów, ponieważ naśladuje sposób, w jaki ludzie naturalnie radzą sobie ze złożonymi problemami, analizując je krok po kroku.

2. Czym różni się rozumowanie łańcuchowe od zwykłego "myślenia krok po kroku"?

Podczas gdy "myślenie krok po kroku" jest podejściem ogólnym, rozumowanie oparte na łańcuchu myśli jest bardziej ustrukturyzowane i celowe, zachęcając model sztucznej inteligencji do wyraźnego wyrażania pośrednich etapów rozumowania, zamiast przeskakiwania do wniosków.

3. Dlaczego niektóre LLMs nie używają domyślnie rozumowania opartego na łańcuchu myśli?

Niektóre LLMs, zwłaszcza wcześniejsze lub mniejsze, domyślnie nie wykorzystują rozumowania opartego na łańcuchu myśli, ponieważ nie zostały dostrojone do generowania wieloetapowych wyników, a zamiast tego koncentrują się na przewidywaniu prawdopodobnych odpowiedzi na podstawie wzorców danych szkoleniowych.

4. Czy podpowiadanie łańcucha myśli jest formą "treningu" modelu podczas wnioskowania?

Nie, podpowiadanie łańcucha myśli nie jest formą treningu; nie zmienia wag ani wiedzy modelu. Zamiast tego kieruje zachowaniem wyjściowym modelu podczas wnioskowania, zachęcając do ustrukturyzowanego rozumowania poprzez podpowiedź.

5. Czy podpowiadanie łańcucha myśli zawsze poprawia dokładność?

Podpowiadanie łańcucha myśli nie zawsze poprawia dokładność. Zwykle pomaga w zadaniach wymagających wieloetapowego rozumowania, ale w prostych zadaniach może dodać niepotrzebnej złożoności, a nawet obniżyć wydajność.