كيفية اختيار LLM مخصص لمشروع الذكاء الاصطناعي الخاص بك

ما الذي يجب أن تسأل عنه عند اختيار نموذج

إليك قائمة جيدة بالأسئلة التي يجب أن تكون قادراً على الإجابة عنها عند اختيار الطراز:

• هل يمكنني استخدام خدمة سحابية LLM أم أحتاج إلى استضافة واحدة بنفسي؟
• ما مدى السرعة التي أحتاجها في الردود؟
• ما مدى الدقة التي أحتاجها في الردود؟
• ما هو المبلغ الذي سيوفره و/أو يدره مشروعي؟ ثم، ما هو السعر الذي يجب أن ينخفض عنه؟
• كم من الوقت أحتاج إلى أن تكون إجاباتي طويلة؟

بشكل عام، من الصعب بشكل عام تسريع نموذج قوي أو تقليل تكاليفه، ومن الأسهل تحسين نموذج أقل دقة. 

ومع ذلك، فإنه من الأسرع بكثير البدء بنموذج قوي، وإذا كان يفي باحتياجات مشروعك، فقد لا تحتاج إلى الكثير من الجهد الهندسي (بالإضافة إلى أنه من الأسهل الحفاظ عليه).

البدء من نموذج

أول شيء يجب عليك فعله هو اختيار طراز البداية. هناك الكثير من لوحات المتصدرين على الإنترنت التي تقارن بين الطرازات المختلفة.

على سبيل المثال:

• تحتفظ Hugging Face بلوحة صدارة للنماذج مفتوحة المصدر.
• لدى Vellum نموذج ممتاز للموديلات الأكثر شعبية.

إذا كان لدى شركتك نموذج داخلي، ففكر في استخدامه للعمل مع ميزانيتك والحفاظ على خصوصية البيانات. إذا كنت بحاجة إلى استضافة النموذج بنفسك، ففكر في نموذج مفتوح المصدر.

الضبط الدقيق 

يتضمن الضبط الدقيق تقديم أمثلة لنموذجك حتى يتعلم كيفية القيام بمهمة معينة بشكل جيد. إذا كنت تريده أن يتفوق في التحدث عن منتجك، فيمكنك تقديم مجموعة من الأمثلة لأفضل مكالمات المبيعات في شركتك.

إذا كان النموذج مفتوح المصدر، اسأل نفسك ما إذا كان فريقك لديه القدرة الهندسية الكافية لضبط النموذج.

إذا كان النموذج مغلق المصدر ويتم توفيره كخدمة - GPT-4 أو كلود - فيمكنك عادةً أن تطلب من مهندسيك ضبط النماذج المخصصة باستخدام واجهات برمجة التطبيقات. وعادةً ما يرتفع السعر بشكل كبير من خلال هذه الطريقة، ولكن الصيانة قليلة أو معدومة. 

ولكن بالنسبة للعديد من حالات الاستخدام، لا يعد الضبط الدقيق الخطوة الأولى نحو تحسين نموذجك. 

من الحالات الرائعة للضبط الدقيق بناء روبوت معرفي للمعرفة الثابتة. من خلال إعطاء أمثلة للأسئلة والأجوبة، يجب أن يكون قادرًا على الإجابة عليها في المستقبل دون البحث عن الإجابة. ولكنه ليس حلاً عملياً للمعلومات في الوقت الحقيقي. 

الجيل المعزز للاسترجاع

RAG هو اسم منمق لشيء بسيط قمنا به جميعًا في ChatGPT: لصق بعض النصوص في ChatGPT وطرح سؤال عنها. 

من الأمثلة النموذجية على ذلك السؤال عما إذا كان هناك منتج معين متوفر على موقع للتجارة الإلكترونية، و chatbot البحث عن المعلومات في كتالوج المنتج (بدلاً من الإنترنت الأوسع). 

فيما يتعلق بسرعة التطوير، والحصول على المعلومات في الوقت الفعلي، فإن RAG أمر لا بد منه. 

لا يؤثر عادةً على النموذج الذي ستختاره، ومع ذلك لا شيء يمنعك من إنشاء نقطة نهاية LLM API تستعلم عن المعلومات والإجابات واستخدام نقطة النهاية هذه كما لو كانت نقطة النهاية هذه LLM. 

غالبًا ما يكون استخدام RAG لـ chatbot أسهل في الصيانة، حيث لا تحتاج إلى ضبط النموذج وتحديثه باستمرار - مما قد يقلل أيضًا من التكاليف.

اقرأ الدليل الكامل لـ RAG

هل تريد أن تجعل RAG تعمل لصالحك؟ يمكننا مساعدتك.

اقرأ الآن

الوصول مجاني دائماً

تعلم اللقطة ن 

إن أسرع طريقة للبدء في تحسين جودة الاستجابات هي تقديم أمثلة في مكالمة واحدة لواجهة برمجة التطبيقات LLM . 

اللقطة الصفرية - إعطاء صفر من الأمثلة على ما تبحث عنه في الإجابة - هي الطريقة التي يستخدمها معظمنا ChatGPT. عادةً ما تكون إضافة مثال واحد (أو لقطة واحدة) كافية لرؤية تحسن كبير في جودة الإجابة. 

يُعتبر أكثر من مثال واحد هو n-shot. لا يغير N-shot النموذج، على عكس الضبط الدقيق. أنت ببساطة تعطي أمثلة قبل طلب الإجابة مباشرة، في كل مرة تطرح فيها سؤالاً. 

لكن لا يمكن الإفراط في استخدام هذه الاستراتيجية: LLM النماذج لها حد أقصى لحجم السياق، ويتم تسعيرها وفقًا لحجم الرسالة. يمكن للضبط الدقيق أن يزيل الحاجة إلى أمثلة اللقطة ن، ولكنه يستغرق وقتًا أطول للحصول على الشكل الصحيح. 

تقنيات هندسية سريعة أخرى

هناك تقنيات هندسية سريعة أخرى، مثل تسلسل الأفكار، والتي تجبر النماذج على التفكير بصوت عالٍ قبل الخروج بإجابة. 

وهذا يزيد من جودة الاستجابة، ولكن على حساب طول الاستجابة وتكلفتها وسرعتها. 

توصيتي

على الرغم من أن كل مشروع سيكون له احتياجاته الفريدة، إلا أنني سأقدم رأيي في نهج قوي. 

المكان الجيد للبدء هو استخدام نموذج جاهز يوازن بين السرعة والجودة، مثل GPT-4o Mini. ابدأ بالنظر إلى جودة الاستجابات، وسرعة الاستجابة، والتكلفة، واحتياجات نافذة السياق، وحدد ما يجب تحسينه من هناك. 

ثم، مع حالة استخدام ضيقة، يمكنك تجربة بعض الهندسة الفورية البسيطة، متبوعةً بـ RAG، وأخيرًا الضبط الدقيق. كل نموذج يمر عبر هذه النماذج سيكون له مكاسب في الأداء، لذا قد يكون من الصعب معرفة ما يجب استخدامه.

إلغاء التحميل الهندسي لتوفير الدولارات

الحفاظ على ميزانية بسيطة أمر بالغ الأهمية في جعل مشروعك حقيقة واقعة. إحدى الطرق التي يمكنك من خلالها القيام بذلك هي تقليل الوقت الهندسي عن طريق فصل المتطلبات. 

في الوقت الحاضر لدينا إمكانية الوصول إلى حلول منخفضة التعليمات البرمجية مثل Flutterflow و Shopify، والتي يمكن استخدامها من قبل الأدوار غير التقنية التقليدية مثل مديري المنتجات. كما أن روبوتات المحادثة ليست استثناءً، بل إن بعض منصات أتمتة الذكاء الاصطناعي تسمح لك LLM. 

يمكنك إرشاد المهندسين للتركيز على استضافة LLM والإعداد مع منصة الأتمتة. وهذا يحرر محللي الأعمال ومديري المنتجات والأدوار الأخرى ذات الصلة لبناء وكلاء ذكاء اصطناعي يلبي متطلبات العمل. 

عندما تكون هناك حاجة إلى شيء إضافي، فإن هذه المنصات عمومًا لديها طريقة للمهندسين لإضافة بعض التعليمات البرمجية. بهذه الطريقة، تحتفظ بمزايا النموذج المخصص، وتكتسب المرونة والسرعة والقدرة على تحمل التكاليف.

توفير الحرية الهندسية لحل مشاكل العمل

من ناحية أخرى، يصعب حل مشاكل العمل في بعض الأحيان. 

نحن نتحدث عن تطبيقات LLM المربوطة بالشبكة بالكامل، أو التطبيقات على الجهاز، أو المشاريع التي تتطلب منح روبوتات الدردشة الآلية قدرات متقدمة للغاية تتجاوز مزامنة البيانات بين منصتين. 

في هذه الحالات، يكون السماح للمهندسين بحرية استخدام الأدوات التي يرتاحون لها أكثر من غيرها أمرًا منطقيًا. وعادةً ما يكون ذلك مجرد كتابة التعليمات البرمجية، ويقوم أصحاب المصلحة ببساطة بدور مديري المشروع.