Botpress الرئيس التنفيذي على OpenAI o1 مقابل العقد المستقلة

هناك بعض أوجه التشابه الرئيسية بين نموذج o1 الجديد الخاص بـ OpenAIونموذج Botpress العقد المستقلة، أليس كذلك؟

هناك بالتأكيد. كان من المضحك جداً أن نرى o1 يخرج. لكن الشيء المهم الذي يجب ملاحظته هو أننا لا نقارن التفاح بالتفاح هنا. 

OpenAI من الواضح أن o1 هو LLM ، في حين أن العقد المستقلة هي ميزة النظام الأساسي. يمكنك حتى توصيل o1 بـ Botpress واستخدامه مع العقد المستقلة.  

لكن كلاهما يستخدمان المنطق التسلسل الفكري، وهو نهج تصاعدي للوصول إلى استنتاجات حول ما يجب فعله وما يجب قوله.

هل يمكن أن تشرح لنا طريقة التفكير المتسلسل وكيف تختلف عن الطريقة التي تولد بها النماذج اللغوية عادةً الاستجابات؟

بالطبع - معظم LLMs توليد الإجابات عن طريق التنبؤ بالكلمة التالية بناءً على الكلمة السابقة - فهي تولد الكلمة الأولى، ثم تستخدمها لتوليد الكلمة التالية، وهكذا دواليك. ينجح هذا في الإجابة عن الأسئلة المباشرة، لكنه يفشل بشكل كبير في المهام الأكثر تعقيدًا ذات التفكير متعدد الخطوات.

من ناحية أخرى، فإن التفكير المتسلسل هو عندما يقوم الذكاء الاصطناعي بتقسيم مهمة ما إلى خطوات أصغر ويعلل بوضوح كل خطوة قبل الانتقال إلى الخطوة التالية. إنه مشابه للطريقة التي يُطلب فيها من الطلاب بناء إجابة في اختبار العلوم والتكنولوجيا والهندسة والرياضيات. 

على سبيل المثال، إذا كان الذكاء الاصطناعي ينشئ عميلاً محتملاً في إدارة علاقات العملاء - حيث يحتاج إلى التحقق من وجود تكرار، وتعيين العميل المحتمل، وما إلى ذلك - فإنه يحتاج إلى استخدام التفكير التسلسل الفكري للتفكير في كل خطوة، وتخطيط تسلسل كامل من الإجراءات قبل أن يبدأ التنفيذ. فهو لا يبدأ في ملء نموذج قبل أن يدرك أنه مكرر، بل يعرف قبل أن يبدأ.

لذلك يمكن للنظام التعامل مع المهام الأكثر تعقيدًا ذات التبعيات المتعددة، ولكنه أيضًا يبطئ من سرعته لأنه يتعين عليه التوقف والتفكير، بدلاً من التوليد الفوري.

تستخدم كل من عقدة o1 والعقد الذاتية التفكير المتسلسل - هل هي نفس العملية في كليهما، أم أن هناك اختلافات بينهما؟

هناك بعض أوجه التشابه وبعض الاختلافات. ما زلنا نستخدم منطق سلسلة التفكير، ولكن نظرًا لأننا نبني لعملاء في العالم الحقيقي، فإننا نحسّن السرعة والكفاءة بعدة طرق مختلفة. 

مع العقد المستقلة، صممنا النظام للتعامل مع إجراءات متعددة في مكالمة واحدة LLM . الفكرة هي التفكير والتصرف في نفس العملية، حتى لا نضيع الوقت. 

تقوم العُقد المستقلة بالتفكير وإعطاء تحديثات للمستخدم بحيث لا ينتظر المستخدم ببساطة انتهاء عملية التفكير. هذا أشبه بالمحادثات الطبيعية، حيث لن يُترك الشخص في انتظار أكثر من 30 ثانية في انتظار ما يزيد عن 30 ثانية. يمكن للمطورين النظر في الأفكار الخفية لـ LLM واستكشاف الأخطاء التي حدثت.

من ناحية أخرى، يقوم o1 بإرجاع إجابة واحدة، وهناك رؤية محدودة لعملية التفكير الخاصة به. OpenAI يقدم ملخصًا لتسلسل الأفكار دون إظهارها، مما يجعل استكشاف الأخطاء وإصلاحها أكثر صعوبة.

هل هناك اختلافات أخرى بين الاثنين؟

يتطلب o1 من المطور أو المنصة استضافة دوال تستدعي استدعاءات الأداة. تتطلب كل خطوة استدعاءً منفصلًا لواجهة برمجة التطبيقات، مما يعني أن النموذج يجب أن يطلب إجراءً واحدًا وينتظر النتيجة ثم يستدعي الإجراء التالي. وتحتاج إلى استدعاء هذا بشكل متكرر مرارًا وتكرارًا وتكرارًا. هذا يجعل عائق استخدامها أعلى، إذ يجب عليك توفير بنية تشغيل الدالة الأساسية. 

تقوم العقد المستقلة بذلك تلقائياً في الخلفية.

كيف تقارن o1 من حيث التكلفة والسرعة؟

لنفترض أنك تستخدم وكيل LLM أو وكيل ذكاء اصطناعي للمساعدة في مهام Hubspot، مثل الدردشة مع زوار الموقع الإلكتروني كوسيلة لتوليد العملاء المحتملين بالذكاء الاصطناعي.

إذا طلبت من O1 ملء نموذج عميل محتمل على Hubspot - أعني على افتراض أنه يمكنك توصيله بدون موصل طرف ثالث - سيستغرق الأمر 12 ثانية وسيتكلف 5 أضعاف ما لو قمت بذلك على Botpress.

يأتي جزء من السرعة من تصميم نظامنا الأساسي القائم على المخطط، مما يعني أن النظام يعرف مقدماً ما هي البيانات المطلوبة وما هي بنية تلك البيانات. 

لذلك عندما تعمل مع أداة مثل HubSpot أو Salesforce، فإن النظام لديه بالفعل مخطط JSON محدد مسبقًا يخبره بالمدخلات المطلوبة - أشياء مثل الاسم الأول وعنوان البريد الإلكتروني واسم الشركة وما إلى ذلك. 

يسمح ذلك للعقد المستقلة بالتفكير في المهمة بأكملها من البداية، دون الحاجة إلى التوقف وطلب المزيد من المعلومات في كل خطوة.

يمكنك تقليل السرعة والخطوات من خلال توفير السياق بنفسك، ولكن على حساب قضاء المزيد من الوقت في بناء تطبيق قائم على o1. لذا فإن الأمر يتعلق أيضًا بزيادة تكلفة الصيانة. 

لقد ذكرت موثوقية عالية. ما الذي يجعل العقد المستقلة أكثر موثوقية من o1؟

كانت الطريقة الأكبر التي جعلنا بها المخرجات أكثر موثوقية هي المزج بين سلسلة التفكير المنطقي وأداة البروتوكول التي أنشأناها. 

ما فعلناه هو في الأساس إنشاء بيئة يمكن أن يفكر فيها - وكل ذلك في التعليمات البرمجية، وليس نصًا عاديًا. وبصراحة إنه أسرع وأكثر موثوقية من الإصدار OpenAI ، وذلك لعدة أسباب.

الأول هو أنه يمكن أن يتحدث في وقت واحد، طوال تسلسل الإجراءات. وهذا شيء لا يفعله النموذج OpenAI . 

سبب آخر هو أن الذكاء الاصطناعي يعرف مخطط الإخراج. فهو يعرف نوع JSON الذي يجب أن يبثه بناءً على الاستعلام الذي يتلقاه. 

وهو شيء يمكن للمطورين ضبطه بأنفسهم. إذا كانوا يستخدمون هذا الأمر، وكانوا يتلقون الكثير من الأسئلة المتشابهة من المستخدمين، كما هو الحال مع معظمهم، فيمكنهم ضبط الذكاء الاصطناعي بحيث يعطي أفضل وأنسب إجابة في كل مرة.  

ما مقدار ما يستخدم JSON في العملية؟

اللغة الإنجليزية العادية لا يمكن الاعتماد عليها، أليس كذلك؟ إنها ليست رسمية بما فيه الكفاية. ليست صارمة بما فيه الكفاية. 

لغة البرمجة هي لغة، لكنها لغة رسمية. إنها لغة خاصة بمجال معين؛ لا يمكنك استخدامها إلا ضمن حدود معينة وأدوار بناء الجملة.

لذا فإن أداتنا تستدعي الرد بلغة JSON بدلاً من الإنجليزية. إنه إخراج JSON بمخطط JSON بدلاً من النص العادي.

عندما تقدم طلبًا لإنشاء نموذج عميل محتمل في Hubspot، تتم كتابته في JSON، ويعطي المخطط - في JSON أيضًا - جميع الخصائص التي يحتاج إلى تضمينها، مثل الاسم والشركة وما إلى ذلك.

ما هي الاختلافات الرئيسية بين أداة الاستدعاء بين العقد المستقلة ونموذج o1؟

أداة الاستدعاء لدينا مدركة للسياق بشكل كبير. فهي تفهم جميع أنظمتك، وجميع الإجراءات التي يمكن أن تتخذها، وكيف يمكن تغذية تلك البيانات إلى الأداة التالية. ويمكننا إنشاء كتلة كود واحدة تعطي كل ذلك معًا، بالإضافة إلى إعطاء إجابة، كل ذلك في مكالمة واحدة LLM .

نظريًا، يمكنك استخدام واجهة برمجة التطبيقات o1 للقيام باستدعاء الأداة، ولكن هناك قيود على ما يمكنك استدعاء الأداة به. لكن Botpress مصمم لذلك. لدينا حواجز حماية على رأس LLMs الأخرى، بما في ذلك GPT. 

يمكن للعقد المستقلة أيضًا التحدث في وقت واحد أثناء استدعاء الأدوات، وهو أمر لا يدعمه OpenAI حاليًا. يوفر هذا الأمر رحلة ذهاب وإياب إلى الخادم ويوفر تجربة محادثة أفضل، حيث يتم إبلاغ المستخدمين قبل بدء مهمة طويلة الأمد.

يتم تحذير معظم المؤسسات من استخدام ChatGPT مع بيانات العمل الآمنة. هل هناك مخاوف أقل بالنسبة للعقد المستقلة؟

تم تصميم منصتنا لتناسب البيئات ذات الحجم الكبير ووقت الاستجابة المنخفض، وقد صممناها مع وضع الاحتياجات العملية للشركات في الاعتبار.

لا تكمن ميزة العُقَد المستقلة في أننا ابتكرنا نوعًا جديدًا تمامًا من الذكاء الاصطناعي، بل في أننا أخذنا التكنولوجيا الموجودة وطبقنا الهندسة الذكية لجعلها تعمل بشكل أفضل لتلبية احتياجات العمل. 

لدينا صناديق رمل آمنة للاتصالات المولدة للذكاء الاصطناعي. عندما تستخدم عقدة مستقلة، فإنها تدير صناديق الرمل السرية هذه مجاناً. إنها آمنة وقابلة للتطوير. وبعد ذلك، يتم تدمير صندوق الرمل. 

هذا عزل افتراضي بطبقتين - تسجيل الدخول وتسجيل الخروج. الأمر معقد للغاية. ولكن هذا يعني أنه يمكننا تشغيل شيفرة برمجية كبيرة الحجم LLM مع الحد الأدنى من المخاطر الأمنية.

إذا كان المطورون أو عشاق الذكاء الاصطناعي يرغبون في تجربة العقدة المستقلة، فماذا عليهم أن يفعلوا؟

لدينا فئة مجانية سخية. يمكن لجميع مستخدمينا تجربتها. لقد اعتقدنا أنها ميزة رائعة للغاية بحيث لا يمكن أن تكون بوابة. لذا نعم، فقط قم بإنشاء حساب مجاني Botpress ويمكنك أن ترى بنفسك. 

ممتاز. شكراً جزيلاً لجلوسك لربط النقاط بين الميزتين. o1 يتصدر o1 الكثير من العناوين الرئيسية؛ من الرائع أن نفهم بشكل أفضل كيفية ارتباطه بما يقوم Botpress بتطويره.