Apa itu chain-of-thought prompting?

Jika Anda pernah menggunakan chatbot GPT seperti ChatGPT, Anda mungkin menyadari kualitas output yang bervariasi.

Kadang hasilnya persis seperti yang Anda butuhkan. Kadang Anda curiga ‘kecerdasan’ pada AI itu agak dibuat-buat.

Anda bisa meningkatkan kemampuan ChatGPT dengan memperbaiki cara Anda memberikan prompt. Chain-of-thought prompting mendorong agen LLM untuk berpikir langkah demi langkah sebelum menghasilkan jawaban.

Model AI dan fitur terbaru mulai membangun chain-of-thought reasoning secara langsung, sehingga model mereka otomatis menalar masalah tanpa perlu prompt tambahan.

Apa itu chain-of-thought prompting?

Chain-of-thought prompting adalah teknik rekayasa prompt dalam AI yang menginstruksikan model untuk memecah tugas kompleks, menalar setiap langkah sebelum memberikan jawaban.

Anda mungkin juga mendengar istilah ‘chain-of-thought reasoning’. Ini mengacu pada proses langkah demi langkah yang diambil model untuk menalar tugas yang diberikan.

Model OpenAI o1 tidak memerlukan chain-of-thought prompting, karena sudah memiliki chain-of-thought reasoning di dalamnya. Namun Anda tetap bisa menggunakan chain-of-thought prompting pada chatbot berbasis LLM apa pun.

Bagaimana cara kerja chain-of-thought reasoning?

Chain-of-thought reasoning berarti memecah masalah menjadi langkah-langkah logis yang lebih kecil agar AI chatbot dapat menyelesaikannya secara berurutan.

Pertama, AI mengidentifikasi bagian-bagian utama dari masalah. Lalu memproses setiap bagian secara berurutan, mempertimbangkan bagaimana satu langkah mengarah ke langkah berikutnya. Setiap langkah membangun dari sebelumnya, sehingga AI bisa bergerak secara sistematis menuju kesimpulan logis.

Contoh chain-of-thought prompting

Prompt ‘stroberi’ yang terkenal

ChatGPT dan LLM lain punya kelemahan yang sudah diketahui. Salah satunya adalah ketidakmampuan mereka menghitung jumlah huruf 'R' dalam kata ‘strawberry’ dengan benar. (Kemungkinan ini alasan di balik nama kode model o1: Strawberry.)

ChatGPT-4o tidak menggunakan penalaran chain-of-thought. Sebaliknya, ia merujuk data pelatihannya dan menghasilkan respons berdasarkan kemungkinan urutan kata. Walaupun sering terdengar benar, sebenarnya hanya meniru bahasa manusia – bukan bernalar atau melakukan riset.

Saat Anda menanyakan ChatGPT-4o tentang pertanyaan stroberi yang terkenal, ia tidak dapat memberikan jawaban yang benar:

‍

Namun, Anda dapat menggunakan teknik prompt chain-of-thought untuk membantu chatbot berbasis LLM mendapatkan jawaban yang benar:

‍

Iterasi terbaru ChatGPT, yang didukung oleh OpenAI o1-preview, adalah LLM besar pertama yang menggunakan chain-of-thought reasoning tanpa perlu prompt tambahan.

Model ini langsung menemukan jawabannya di percobaan pertama, karena telah diinstruksikan untuk otomatis mengikuti proses yang sama seperti prompt kedua ChatGPT-4o di atas. Satu-satunya perbedaan adalah proses ini dilakukan tanpa prompt tambahan.

Matematika

Jika Anda menanyakan soal matematika dari buku SD ke versi lama ChatGPT, jawabannya belum tentu benar.

Soal matematika bertahap memerlukan penalaran, yang sebelumnya tidak ada pada LLM. Anda bisa memecah setiap langkah masalah, tapi jika tidak tahu langkah yang benar, LLM tidak bisa membantu.

ChatGPT-4o mampu menemukan jawaban atas pertanyaan dengan memecah langkah-langkah dalam masalah tersebut:

AI Agents terhubung ke Hubspot

Untuk aplikasi nyata, mari ambil contoh agen AI bertenaga LLM yang telah terintegrasi ke Hubspot. Tim penjualan menggunakan agen AI ini untuk memproses prospek baru yang dikumpulkan dari berbagai kanal.

Skenario

‍Seorang sales mengirimkan prospek baru ke agen AI dan memintanya mendaftarkan di Hubspot serta mengirim email kontak pertama, tapi jangan didaftarkan jika prospek tersebut bekerja di perusahaan yang sudah menjadi target.

LLM tanpa penalaran chain-of-thought

‍Agen AI berbasis LLM mencatat prospek dan mengirim email tanpa memeriksa apakah perusahaan tersebut sudah menjadi prospek, sehingga melewatkan kondisi penting.

LLM dengan chain-of-thought reasoning

‍AI agent berbasis LLM memeriksa apakah perusahaan sudah menjadi prospek sebelum bertindak. Jika sudah, proses pendaftaran dan pengiriman email dilewati; jika belum, prospek didaftarkan dan email dikirim, sesuai instruksi sales dengan akurat.

Kapan saya harus menggunakan chain of thought prompting?

Chain-of-thought prompting paling cocok digunakan pada skenario yang membutuhkan penalaran langkah demi langkah.

Tugas yang cocok adalah yang melibatkan logika, soal matematika, tugas prosedural, atau situasi yang butuh jawaban bertahap.

Tapi tunggu dulu: penalaran terdengar hebat – kenapa tidak selalu digunakan?

Pertanyaan yang bagus. Tidak semua pertanyaan membutuhkan penalaran. Contohnya:

• Pertanyaan faktual sederhana, seperti ‘Apa ibu kota Kanada?’
• Masalah satu langkah, seperti ‘Berapakah 145 + 37?’
• Tugas pembuatan konten, seperti 'Tulis email sopan 3 kalimat untuk menanyakan ke rekan apakah mereka sudah selesai dengan proyeknya.'

Prompting changing vs chain-of-thought prompting

Walaupun namanya mirip, prompt chaining dan chain-of-thought prompting adalah strategi berbeda untuk meningkatkan hasil AI generatif.

Chain-of-thought prompting

Dengan chain-of-thought prompting, pengguna membimbing AI untuk menjelaskan alasan di balik jawabannya dalam satu respons. Ini mendorong AI untuk menelusuri setiap langkah proses pemecahan masalah, tapi dilakukan dalam satu permintaan dan jawaban.

Sebagai contoh, chain-of-thought prompt dapat dilakukan dalam satu pesan:

"Tim HR perlu meninjau 5 evaluasi kinerja karyawan. Setiap evaluasi memakan waktu 30 menit dan mereka membutuhkan 15 menit untuk persiapan sebelumnya. Evaluasi senior memerlukan tambahan 10 menit per orang. Berapa lama waktu yang dibutuhkan untuk menyelesaikan 5 evaluasi senior dan 25 evaluasi junior? Uraikan alasan Anda langkah demi langkah."

Prompt chaining

Dengan prompt chaining, tugas dipecah menjadi beberapa langkah terpisah dengan beberapa prompt, di mana setiap prompt membangun hasil dari langkah sebelumnya. Ini membantu menyusun dan membimbing AI melalui tugas kompleks yang kemungkinan membutuhkan penalaran.

Prompt pertama bisa seperti ini:

Prompt 1: Identifikasi tantangan utama yang mungkin dihadapi perusahaan saat beralih ke kerja jarak jauh.

Output:

• Kesenjangan komunikasi
• Menjaga produktivitas
• Infrastruktur teknologi
• Keterlibatan karyawan

Prompt berikutnya dapat membahas lebih dalam konsep-konsep ini. Misalnya:

Prompt 2: Jelaskan bagaimana sebuah perusahaan bisa menemukan solusi untuk kesenjangan komunikasi saat beralih ke kerja jarak jauh.

Setelah output berikutnya, rantai berikutnya bisa berupa:

Prompt 3: Apa tantangan umum yang dihadapi perusahaan saat mengadopsi solusi ini?

Jadi meskipun keduanya mirip, pendekatannya berbeda dalam menggali konten yang paling mendalam dan relevan dari alat AI generatif.

Chain-of-thought prompting di Botpress

Pengguna Botpress sudah mengenal fitur yang menggunakan chain-of-thought reasoning.

Autonomous Node diluncurkan pada Juli 2024 di Botpress, platform untuk membangun AI agent. Autonomous Node mampu mengotomatisasi alur kerja multi-langkah dan mengambil keputusan secara mandiri.

Sebuah Autonomous Node bisa dibuat dan diarahkan hanya dengan satu baris teks sederhana, seperti ‘Tugas Anda adalah menghasilkan prospek berkualitas. Buat prospek di Salesforce ketika pengguna menunjukkan niat membeli.’

Agen AI yang Anda bangun dengan Autonomous Node ini akan mengambil berbagai tindakan untuk mencapai tujuannya, secara mandiri tanpa mengikuti alur kerja yang dirancang manusia. Ia juga bisa berpindah antar LLM sesuai kebutuhan, memutuskan untuk mengutamakan kecepatan atau kekuatan.

Bangun agen otonom khusus

Botpress adalah satu-satunya platform agen AI yang memungkinkan Anda membangun agen yang benar-benar otonom.

Botpress Studio yang terbuka dan fleksibel memungkinkan berbagai kasus penggunaan di berbagai industri, mulai dari HR hingga lead generation. Pustaka integrasi siap pakai dan tutorial lengkap kami memudahkan pengguna membangun agen AI dari awal.

Mulai membangun hari ini. Gratis.

Atau hubungi tim penjualan kami.

FAQ

1. Apakah chain-of-thought prompting hanya berguna untuk model AI, atau juga mencerminkan cara manusia memecahkan masalah?

Chain-of-thought prompting bermanfaat untuk model AI maupun manusia karena meniru cara orang memecahkan masalah rumit dengan berpikir langkah demi langkah.

2. Apa bedanya chain-of-thought reasoning dengan sekadar “berpikir langkah demi langkah”?

Meskipun "berpikir langkah demi langkah" adalah pendekatan umum, chain-of-thought reasoning lebih terstruktur dan disengaja, mendorong model AI untuk mengartikulasikan langkah penalaran menengah secara eksplisit daripada langsung ke kesimpulan.

3. Mengapa beberapa LLM tidak menggunakan penalaran chain-of-thought secara default?

Beberapa LLM, terutama model awal atau yang lebih kecil, tidak menggunakan chain-of-thought reasoning secara default karena belum dioptimalkan untuk menghasilkan output multi-langkah dan lebih fokus pada prediksi jawaban yang paling mungkin berdasarkan pola data pelatihan.

4. Apakah chain-of-thought prompting merupakan bentuk “pelatihan” model saat inferensi?

Tidak, chain-of-thought prompting bukanlah bentuk pelatihan; ini tidak mengubah bobot atau pengetahuan model. Sebaliknya, ini membimbing perilaku output model saat inferensi dengan mendorong penalaran terstruktur melalui prompt.

5. Apakah chain-of-thought prompting selalu meningkatkan akurasi?

Chain-of-thought prompting tidak selalu meningkatkan akurasi. Biasanya membantu untuk tugas yang butuh penalaran bertahap, tapi untuk tugas sederhana justru bisa menambah kerumitan dan menurunkan performa.