วิธีเลือก LLM แบบกำหนดเองสำหรับโปรเจกต์ AI ของคุณ

LLM กำลังเปลี่ยนวิธีการสร้างโซลูชัน AI ของเรา มีโมเดลสำเร็จรูปใหม่ ๆ ที่ดียิ่งขึ้นออกมาอยู่เสมอ

คำถามที่ผมมักถูกถามบ่อย ๆ คือ ทำไมถึงควรเลือกใช้ LLM แบบกำหนดเองแทนที่จะใช้โซลูชันสำเร็จรูป?

หากคุณกำลังทำโปรเจกต์ AI เช่น สร้างเอเจนต์ AI หรือแชทบอท AI คุณอาจเลือกใช้โมเดลภาษา LLM ที่ปรับแต่งเอง

มีเหตุผลมากมายที่ควรใช้ LLM แบบกำหนดเองสำหรับ LLM agent ของคุณ และยังมีตัวเลือกอีกมากมาย ในบทความนี้ ผมจะพาคุณไปรู้จักวิธีต่าง ๆ ในการปรับแต่ง LLM สำหรับโปรเจกต์ AI

ทำไมต้องใช้ LLM แบบกำหนดเอง?

มีเหตุผลหลายประการในการใช้ LLM แบบกำหนดเอง:

• คุณต้องการลดต้นทุนโดยเน้นงานที่สำคัญต่อธุรกิจของคุณ หรือเพื่อลดความหน่วงในการตอบสนอง
• คุณอาจต้องการเก็บข้อมูลทั้งหมดไว้เป็นความลับ หรือใช้ LLM ภายในองค์กรของคุณเอง
• คุณอาจต้องการเพิ่มคุณภาพของคำตอบสำหรับงานเฉพาะทาง

ไม่ว่าด้วยเหตุผลใด การปรับแต่ง LLM จะช่วยให้คุณเพิ่มประสิทธิภาพ โดยสมดุลระหว่างความแม่นยำ ความเร็ว และต้นทุน ให้เหมาะกับความต้องการของธุรกิจ

การเลือก LLM

LLM มีสองปัจจัยที่ส่งผลต่อโปรเจกต์ AI: ขนาด (วัดจากจำนวนพารามิเตอร์) และคุณภาพของคำตอบ

คุณอาจเปรียบเทียบพารามิเตอร์เหมือนกับเซลล์ประสาทในสมอง สมองที่ใหญ่กว่ามักจะฉลาดกว่า แต่ก็ไม่เสมอไป และบางส่วนของสมองอาจถูกปรับให้เหมาะกับงานเฉพาะ เช่น การมองเห็น

สำหรับโปรเจกต์ AI ขนาดของโมเดลมักมีผลต่อความเร็วในการตอบสนอง และมีผลต่อต้นทุนอย่างมาก โปรเจกต์ที่ต้องการความหน่วงต่ำมักเลือกใช้โมเดลขนาดเล็ก แต่ก็ต้องแลกกับคุณภาพของคำตอบ

คำถามที่ควรถามเมื่อเลือกโมเดล

นี่คือรายการคำถามที่ควรตอบให้ได้เมื่อเลือกโมเดล:

• ฉันสามารถใช้ LLM บนคลาวด์ได้หรือจำเป็นต้องโฮสต์เอง?
• ฉันต้องการให้การตอบกลับรวดเร็วแค่ไหน?
• ฉันต้องการให้การตอบกลับแม่นยำเพียงใด?
• โครงการของฉันจะช่วยประหยัดหรือสร้างรายได้เท่าไร? แล้วราคาควรต่ำกว่าเท่าไร?
• ต้องการให้คำตอบยาวแค่ไหน?

โดยทั่วไปแล้ว การเร่งความเร็วหรือการลดต้นทุนของโมเดลที่ทรงพลังนั้นทำได้ยาก และการปรับปรุงโมเดลที่แม่นยำน้อยกว่านั้นทำได้ง่ายกว่า

แต่การเริ่มต้นด้วยโมเดลที่ทรงพลังจะทำได้เร็วกว่า และถ้ามันตอบโจทย์โปรเจกต์ของคุณ คุณอาจไม่ต้องใช้ความพยายามทางวิศวกรรมมากนัก (และยังดูแลรักษาง่ายกว่า)

การเลือกใช้ RAG, การปรับแต่งโมเดล, N-Shot Learning และ Prompt Engineering

มีแนวคิดหลัก 5 ข้อที่ช่วยเพิ่มคุณภาพของคำตอบจาก LLM:

1. เริ่มต้นจากโมเดลที่ผ่านการฝึกมาแล้ว
2. RAG
3. การปรับแต่งโมเดล (Fine tuning)
4. N-shot prompting
5. Prompt engineering

สิ่งเหล่านี้ไม่ได้จำกัดเฉพาะการใช้โมเดลแบบกำหนดเอง แต่ควรพิจารณาเสมอ เพราะสามารถใช้ร่วมกันได้

เริ่มต้นจากโมเดล

สิ่งแรกที่ควรทำคือเลือกโมเดลเริ่มต้น มีเว็บไซต์จัดอันดับโมเดลต่าง ๆ ให้เปรียบเทียบมากมาย

ตัวอย่างเช่น:

• Hugging Face มี กระดานจัดอันดับสำหรับโมเดลโอเพ่นซอร์ส
• Vellum มี กระดานจัดอันดับสำหรับโมเดลยอดนิยม ที่ยอดเยี่ยม

ถ้าบริษัทของคุณมีโมเดลภายใน ลองพิจารณาใช้เพื่อควบคุมงบประมาณและรักษาความเป็นส่วนตัวของข้อมูล หากต้องโฮสต์เอง ให้พิจารณา โมเดลโอเพ่นซอร์ส

Fine-tuning

การปรับแต่งโมเดล (Fine-tuning) คือการให้ตัวอย่างกับโมเดลเพื่อให้มันเรียนรู้การทำงานเฉพาะ เช่น ถ้าต้องการให้พูดถึงสินค้าของคุณได้ดี อาจให้ตัวอย่างการขายที่ดีที่สุดของบริษัท

ถ้าโมเดลเป็นโอเพ่นซอร์ส ให้ถามตัวเองว่าทีมของคุณมีศักยภาพด้านวิศวกรรมเพียงพอในการปรับแต่งโมเดลหรือไม่

ถ้าโมเดลเป็นแบบปิดและให้บริการผ่าน API เช่น GPT-4 หรือ Claude โดยทั่วไปวิศวกรสามารถปรับแต่งโมเดลผ่าน API ได้ แต่ราคามักจะสูงขึ้นมาก แม้จะไม่ต้องดูแลรักษามากนัก

แต่สำหรับหลายกรณี การปรับแต่งโมเดลไม่ใช่ขั้นตอนแรกในการเพิ่มประสิทธิภาพ

กรณีที่เหมาะกับการปรับแต่งโมเดลคือการสร้างบอทความรู้สำหรับข้อมูลคงที่ โดยให้ตัวอย่างคำถาม-คำตอบ เพื่อให้ตอบได้ในอนาคตโดยไม่ต้องค้นหาข้อมูลใหม่ แต่ไม่เหมาะกับข้อมูลที่เปลี่ยนแปลงแบบเรียลไทม์

การสร้างคำตอบด้วยการค้นข้อมูล (Retrieval-augmented generation)

RAG เป็นชื่อทางเทคนิคของสิ่งที่หลายคนทำใน ChatGPT: วางข้อความลงไปแล้วถามคำถามเกี่ยวกับข้อความนั้น

ตัวอย่างเช่น ถามว่าสินค้าบางอย่างมีในสต็อกหรือไม่ในเว็บไซต์อีคอมเมิร์ซ และแชทบอทจะค้นหาข้อมูลจากแค็ตตาล็อกสินค้า (แทนที่จะค้นหาทั่วอินเทอร์เน็ต)

ในแง่ของความเร็วในการพัฒนาและการดึงข้อมูลแบบเรียลไทม์ RAG เป็นสิ่งที่ขาดไม่ได้

โดยปกติแล้ว RAG ไม่ได้มีผลต่อการเลือกโมเดล แต่คุณสามารถสร้าง API ของ LLM ที่ค้นหาข้อมูลและตอบคำถามได้เหมือนเป็น LLM ของตัวเอง

การใช้ RAG กับแชทบอทความรู้มักดูแลรักษาง่ายกว่า เพราะไม่ต้องปรับแต่งโมเดลและอัปเดตข้อมูลบ่อย ๆ ซึ่งช่วยลดต้นทุนได้ด้วย

N-shot learning

วิธีที่เร็วที่สุดในการเริ่มปรับปรุงคุณภาพคำตอบคือการให้ตัวอย่างในแต่ละคำขอไปยัง API ของ LLM

Zero-shot คือการไม่ให้ตัวอย่างเลย ซึ่งเป็นวิธีที่หลายคนใช้ ChatGPT การเพิ่มตัวอย่างเดียว (one-shot) ก็มักจะเห็นคุณภาพคำตอบดีขึ้นอย่างชัดเจน

ถ้ามีมากกว่าหนึ่งตัวอย่างจะเรียกว่า n-shot ซึ่งต่างจากการปรับแต่งโมเดล เพราะคุณแค่ให้ตัวอย่างก่อนถามทุกครั้ง ไม่ได้เปลี่ยนโมเดล

แต่กลยุทธ์นี้ใช้มากเกินไปไม่ได้ เพราะ LLM มีขนาด context สูงสุด และคิดราคาตามขนาดข้อความ การปรับแต่งโมเดลจะช่วยลดความจำเป็นในการใช้ n-shot แต่ต้องใช้เวลามากขึ้น

เทคนิค prompt engineering อื่น ๆ

ยังมีเทคนิค prompt engineering อื่น ๆ เช่น chain-of-thought ที่บังคับให้โมเดลคิดออกเสียงก่อนตอบคำถาม

วิธีนี้ช่วยเพิ่มคุณภาพของคำตอบ แต่จะทำให้คำตอบยาวขึ้น ใช้เวลามากขึ้น และมีค่าใช้จ่ายสูงขึ้น

คำแนะนำของผม

แม้แต่ละโปรเจกต์จะมีความต้องการเฉพาะตัว ผมขอเสนอแนวทางที่คิดว่าแข็งแกร่งไว้ดังนี้

จุดเริ่มต้นที่ดีคือใช้โมเดลสำเร็จรูปที่สมดุลระหว่างความเร็วและคุณภาพ เช่น GPT-4o Mini เริ่มจากดูคุณภาพคำตอบ ความเร็วในการตอบ ต้นทุน ขนาด context window แล้วค่อยตัดสินใจว่าควรปรับปรุงจุดไหน

จากนั้น เมื่อมีกรณีใช้งานที่แคบลง ให้ลองใช้ prompt engineering ง่าย ๆ ก่อน ตามด้วย RAG และสุดท้ายคือการปรับแต่งโมเดล ทุกโมเดลที่ผ่านกระบวนการเหล่านี้จะมีประสิทธิภาพดีขึ้น จึงอาจต้องทดลองเพื่อหาวิธีที่เหมาะสม

ข้อควรคำนึงเรื่องความเป็นส่วนตัว

ในโลกอุดมคติ LLM ทุกตัวจะอยู่ภายใต้การควบคุมของคุณเอง 100% และไม่มีข้อมูลรั่วไหลออกไป

แต่ในความเป็นจริง มันไม่เป็นเช่นนั้นด้วยเหตุผลที่ดีหลายประการ

เหตุผลแรกคือ การโฮสต์และดูแลโมเดลเองต้องใช้ทรัพยากรวิศวกรรมสูงมากและมีค่าใช้จ่ายสูง หากโมเดลที่โฮสต์ล่ม ธุรกิจจะได้รับผลกระทบ ดังนั้นระบบต้องมีความเสถียรสูง

อีกเหตุผลหนึ่งคือผู้นำในอุตสาหกรรม เช่น OpenAI, Google และ Anthropic ต่างก็ออกโมเดลใหม่ที่มีประสิทธิภาพสูงขึ้นและราคาถูกลงอยู่เสมอ ทำให้การปรับแต่งโมเดลเดิมกลายเป็นเรื่องล้าสมัย นี่เป็นเช่นนี้ตั้งแต่ ChatGPT 3.5 และยังไม่มีทีท่าว่าจะเปลี่ยนแปลง

ถ้าเคสการใช้งานของคุณมีข้อมูลที่อ่อนไหวมาก การใช้โมเดลและปรับแต่งให้เหมาะกับเคสของคุณก็สมเหตุสมผล หาก GDPR เป็นสิ่งสำคัญ ก็มี โมเดลสำเร็จรูปที่สอดคล้องกับ GDPR ให้เลือกมากมาย

การสร้างหลังจากเลือก LLM ของคุณแล้ว

เมื่อคุณเลือก LLM ได้แล้ว คุณก็สามารถเริ่มวางแผนว่าจะสร้างและดูแลโปรเจกต์ AI ของคุณอย่างไร ตัวอย่างเช่น ผมจะยกตัวอย่างโปรเจกต์ที่ผมคุ้นเคยที่สุด: เอเจนต์ AI หรือ แชทบอท AI

คุณสามารถตอบคำถามต่อไปนี้เพื่อกำหนดขอบเขตโปรเจกต์ของคุณได้:

• คุณอยากให้เอเจนต์ AI ของคุณอยู่ที่ไหน? (Slack, WhatsApp, วิดเจ็ตบนเว็บไซต์ ฯลฯ)
• ควรมีความรู้อะไรบ้าง และความรู้นั้นอยู่ที่ไหน?
• ควรมีความสามารถอะไรเพิ่มเติมนอกจากการตอบคำถามความรู้หรือไม่?
• ควรให้ระบบทำงานอัตโนมัติเมื่อมีบางอย่างเกิดขึ้นในธุรกิจหรือไม่?

ลดภาระวิศวกรรมเพื่อประหยัดงบประมาณ

การควบคุมงบประมาณให้กระชับเป็นสิ่งสำคัญในการทำให้โปรเจกต์ของคุณเป็นจริง หนึ่งในวิธีที่ช่วยได้คือการลดเวลาทำงานของวิศวกรด้วยการแยกความต้องการออกจากกัน

ปัจจุบันเรามี โซลูชันแบบโลว์โค้ด อย่าง Flutterflow, Shopify ซึ่งผู้ที่ไม่ใช่สายเทคนิค เช่น Product Manager ก็สามารถใช้งานได้ แชทบอทก็เช่นเดียวกัน บางแพลตฟอร์ม AI automation ยังให้คุณใช้ LLM ของตัวเองได้ด้วย

คุณสามารถให้วิศวกรเน้นที่การโฮสต์ LLM และตั้งค่ากับ แพลตฟอร์ม automation ซึ่งจะช่วยให้นักวิเคราะห์ธุรกิจ, product manager และบทบาทอื่น ๆ สามารถสร้างเอเจนต์ AI ที่ตอบโจทย์ธุรกิจได้

เมื่อมีความต้องการเพิ่มเติม แพลตฟอร์มเหล่านี้มักเปิดให้วิศวกรเพิ่มโค้ดเองได้ วิธีนี้จะช่วยให้คุณยังคงได้ประโยชน์จากโมเดลที่ปรับแต่งเอง พร้อมทั้งความยืดหยุ่น ความรวดเร็ว และประหยัดค่าใช้จ่าย

เปิดโอกาสให้วิศวกรแก้ปัญหาทางธุรกิจได้อย่างอิสระ

ในทางกลับกัน บางครั้งปัญหาทางธุรกิจก็ซับซ้อนมาก

เช่น แอป LLM ที่แยกเครือข่ายโดยสมบูรณ์, แอปที่ทำงานบนอุปกรณ์ หรือโปรเจกต์ที่ต้องการให้แชทบอทมีความสามารถขั้นสูงมากกว่าการซิงค์ข้อมูลระหว่างสองแพลตฟอร์ม

ในกรณีเหล่านี้ การเปิดโอกาสให้วิศวกรเลือกใช้เครื่องมือที่ถนัดจึงเหมาะสม ซึ่งโดยมากก็คือการเขียนโค้ดเอง และผู้มีส่วนเกี่ยวข้องจะทำหน้าที่เป็นผู้จัดการโปรเจกต์

ข้อควรพิจารณาเชิงกลยุทธ์ในการปรับแต่ง LLM

การเลือก LLM ที่ปรับแต่งเองสำหรับโปรเจกต์ AI ไม่ใช่แค่เลือกโมเดลที่ดีที่สุดเท่านั้น แต่คือการตัดสินใจเชิงกลยุทธ์ให้สอดคล้องกับเป้าหมายของคุณ

โมเดลที่ปรับแต่งเองให้ความยืดหยุ่น การควบคุม และโอกาสในการปรับให้เหมาะกับงานเฉพาะ แต่ก็มีความซับซ้อนเพิ่มขึ้นด้วย เริ่มต้นด้วยโมเดลสำเร็จรูป ทดลองปรับแต่ง prompt และค่อย ๆ ปรับปรุงจากจุดนั้น

อย่าลืมว่า โมเดลที่เหมาะสมควรตอบโจทย์ธุรกิจของคุณ ไม่ใช่แค่เข้ากับเทคโนโลยีที่คุณมี

ปรับแต่งด้วยแพลตฟอร์มที่ทรงพลัง

พร้อมยกระดับโปรเจกต์ AI ของคุณหรือยัง?

Botpress คือแพลตฟอร์มเอเจนต์ AI ที่ยืดหยุ่นและขยายความสามารถได้เต็มที่ Stack ของเราช่วยให้นักพัฒนาสร้างแชทบอทและเอเจนต์ AI สำหรับทุกกรณีการใช้งานที่เป็นไปได้

เรามีแพลตฟอร์มการเรียนรู้ที่ครบถ้วน Botpress Academy รวมถึง ช่อง YouTube ที่มีเนื้อหาละเอียด ชุมชน Discord ของเรามีผู้สร้างบอทกว่า 20,000 คน คุณจึงขอความช่วยเหลือได้ตลอดเวลา

เริ่มสร้างได้เลยวันนี้ ฟรี

คำถามที่พบบ่อย

1. จะประเมิน ROI ของการลงทุนใน LLM ที่ปรับแต่งเองสำหรับธุรกิจได้อย่างไร?

เพื่อประเมิน ROI ของการลงทุนใน LLM ที่ปรับแต่งเองสำหรับธุรกิจ ให้เปรียบเทียบต้นทุนรวม (เช่น โครงสร้างพื้นฐาน เวลาในการพัฒนา การปรับแต่งโมเดล และค่าโฮสต์) กับผลลัพธ์ที่วัดได้ เช่น การลดต้นทุนแรงงาน หรืออัตราการเปลี่ยนแปลงที่เพิ่มขึ้น

2. ควรติดตาม KPI อะไรเพื่อวัดประสิทธิภาพของ LLM ที่ปรับแต่งเอง?

ควรติดตาม KPI เช่น ความแม่นยำในการตอบ (precision/recall หรืออัตราการทำงานสำเร็จ), ความหน่วง (เวลาตอบกลับเฉลี่ย), ความพึงพอใจของผู้ใช้ (CSAT/NPS), อัตราการแก้ไขปัญหาเอง และต้นทุนต่อการโต้ตอบ ตัวชี้วัดเหล่านี้สะท้อนทั้งประสิทธิภาพทางเทคนิคและผลกระทบต่อธุรกิจ

3. จะประเมินต้นทุนดูแลระยะยาวของ LLM ที่ปรับแต่งเองได้อย่างไร?

เพื่อประเมินต้นทุนดูแลระยะยาวของ LLM ที่ปรับแต่งเอง ให้รวมค่าใช้จ่ายด้านโครงสร้างพื้นฐาน (cloud compute, storage), การอัปเดตทางวิศวกรรม, ความถี่ในการฝึกหรือปรับแต่งโมเดล, เครื่องมือมอนิเตอร์ และการปรับตัวตามข้อกำหนด หากข้อมูลธุรกิจของคุณเปลี่ยนแปลงเร็ว ควรคาดว่าค่าใช้จ่ายในการฝึกและตรวจสอบจะสูงขึ้นตามเวลา

4. จะเปรียบเทียบ LLM ต่าง ๆ สำหรับอุตสาหกรรมหรือโดเมนของตัวเองได้อย่างไร?

เปรียบเทียบ LLM ต่าง ๆ โดยทดสอบด้วย prompt ที่เป็นตัวแทนและเฉพาะโดเมนของคุณ แล้วเปรียบเทียบประสิทธิภาพด้านความแม่นยำ ความชัดเจน โทนเสียง และความเกี่ยวข้องกับงาน คุณสามารถใช้ชุดข้อมูลภายในหรือมาตรฐานอุตสาหกรรมแบบโอเพ่นซอร์ส เช่น FinancialQA หรือ MedQA ตามแต่ละภาคธุรกิจ

5. LLM ที่ปรับแต่งเองควรผ่านมาตรฐานใดบ้างหากต้องจัดการข้อมูลผู้ใช้?

หากคุณต้องจัดการข้อมูลผู้ใช้ LLM ที่ปรับแต่งเองควรผ่านมาตรฐาน เช่น GDPR (สำหรับความเป็นส่วนตัวข้อมูลใน EU), SOC 2 Type II (สำหรับความปลอดภัยเชิงปฏิบัติการ) และ HIPAA (หากเกี่ยวข้องกับข้อมูลสุขภาพ) ผู้ให้บริการ LLM ควรมีฟีเจอร์ เช่น การกำหนดสิทธิ์ตามบทบาท การเข้ารหัสข้อมูลขณะส่งและขณะเก็บ บันทึกการใช้งาน และนโยบายที่ชัดเจนสำหรับการเก็บและลบข้อมูล