يجب أن يعرف روبوت الدردشة المفيد كيفية الإشارة إلى شخص ما عندما تكون الإجابة مفقودة أو يكون القرار ضروريًا أو يطلبه المستخدم. صمم هذا المقطع مع بقية المسار: القناة المتاحة والمعلومات المنقولة وتأكيد الاعتبار.
حدد ما يمكن أن يعالجه روبوت المحادثة
معلومات عامة منفصلة ، استشارة ملف وعمل تجاري. يمكن لمساعد وثائقي أن يشرح إجراءً دون أن يكون مصرحًا له بتعديل أمر ما. تشير إلى حدودها بلغة مفهومة. يجب ألا يلغي وجود واجهة الدردشة الوسائل المعتادة للتواصل. على الهاتف المحمول ، تحقق من أنه لا يخفي التنقل أو المعلومات الأساسية.
تعيين مشغلات التتابع
خطة كحد أدنى للطلب الصريح من المستخدم ، وغياب مصدر ومواقف كافية خارج النطاق. تجنب الحلقات حيث يعيد النموذج صياغة نفس الإجابة إلى أجل غير مسمى. يجب أن تكون المشغلات قابلة للاختبار بأمثلة. بالنسبة لسؤال حساس ، لا تثبت سيولة الإجابة أنها تشكل قرارًا مصرحًا به.
وصف التتابع بأنه دورة كاملة
لا يكفي زر الاتصال إذا لم يكن أحد يعرف ما الذي يرسله أو من سيعالج الطلب. وصف الحالة الأولية وإجراء المستخدم والمعلومات المقترحة والتأكيد المتوقع. يمكن أن يكون المسار بسيطًا: ملخص إعادة التشغيل ونموذج وقناة استقبال تم التحقق منها. الشيء المهم هو عدم الإشارة إلى أن الطلب قد تم أخذه في الاعتبار قبل أن يؤكده الطلب حقًا.
| حالة | استجابة الواجهة | التحقق من اختبار القبول |
|---|---|---|
| يسأل المستخدم عن شخص | يقترح وسيلة اتصال يمكن الوصول إليها | لا توجد حلقة تفرض عمليات إعادة صياغة جديدة |
| الوثائق لا تستجيب | تم الإعلان عن الحد واقتراح تكملة مفيدة | لا يوجد شرط أو قيمة مخترعة |
| الخدمة مغلقة | تم شرح التوافر الفعلي | لا تأخير تلقائي لم يتم التحقق |
| القناة تفشل | تتوفر رسالة فشل وبديل | لا يوجد تأكيد خاطئ للشحن |
| قرار العمل ضروري | الطلب موجه نحو الدور المختص | لا يقدم النموذج تعديلًا كما تم |
هذه الشبكة هي اقتراح تصميم. تظل الأذونات حاسمة: يجب ألا يكون المساعد الإعلامي قادرًا على تعديل العقد أو الوصول لمجرد أن إجابته تقترح. توصياتOWASP لتطبيقات LLM تساعد في التمييز بين النص المنتج والإجراءات المصرح بها بالفعل.
نقل فقط ما يساعد
يمكن أن يقدم التتابع ملخصًا يعيده الشخص قبل الإرسال. تحديد المعلومات الضرورية والمستلم والقناة المعتمدة. لا تقم تلقائيًا بنسخ المحادثة بأكملها إذا كانت تحتوي على بيانات غير ضرورية. إذا كانت الخدمة مغلقة ، فأعلن عن طريقة ترك الطلب وما سيحدث بعد ذلك ، دون الوعد بتأخير لم يتم التحقق من صحته من قبل الفريق.
مثال وهمي: طلب تغيير
يريد الزائر تغيير خدمة أمرت بالفعل. يمكن لـ Chatbot شرح مكان العثور على معلومات مفيدة واقتراح جهة اتصال ، لكنه لا يؤكد التغيير. يتحقق المستخدم من ملخص لطلبه قبل الإرسال. تعرض الصفحة تأكيدًا حقيقيًا للإيصال أو رسالة فشل للمحاولة مرة أخرى ؛ الصيغة التي تم إنشاؤها لا تحل محل هذا التحقق.
تصميم ملخص يمكن للشخص التحكم فيه
- قصر الملخص على السؤال والسياق المفيد والعناصر التي يوافق المستخدم على نقلها. أظهره قبل الإرسال عندما يسمح المسار.
- حدد القناة والمستلم الوظيفي للطلب. لا تصف الصيغة الغامضة مثل "سنعتني بها" استقبالًا يمكن التحقق منه.
- السماح لتصحيح الملخص. لا ينبغي أن تصبح إعادة الصياغة السيئة من قبل النموذج هي النسخة الوحيدة من الطلب الذي يحتفظ به الفريق.
- اختبر الاستقبال بالبيانات التجريبية ، ثم سيناريو الفشل. تحقق من المسار على لوحة المفاتيح وعلى شاشة ضيقة ، بما في ذلك عندما تكون نافذة الدردشة مفتوحة.
في محاكاة خيالية ، يريد الشخص تطوير خدمة أمرت بالفعل. يمكن لـ Chatbot شرح المعلومات التي يجب إعدادها واقتراح ملخص. لا يؤكد قبول أو تعديل الملف. يتلقى الفريق طلبًا قابلاً للتنفيذ ويظل مسؤولاً عن القرار. هذا الفصل يجعل من الممكن المساعدة بسرعة دون تقديم التزام تجاري.
بالنسبة لموقع الوكالة ، يمكن أن يوجه التتابع نحو تبادل الإطارات بدلاً من السعي لحل كل موقف على الفور. خطط لمراجعة الأسئلة التي لم تتم الإجابة عليها لتحسين التوثيق. ال إعداد قاعدة المعرفة و ال اختبارات جودة RAG ثم تصبح مكملة للعمل على النموذج وعلى الاستقبال الفعلي للرسائل.
اختبر نهاية الدورة
محاكاة استجابة لا يمكن تعقبها والطلب البشري الفوري وفشل قناة الاتصال. لوحة مفاتيح التحكم وقراءة الهاتف المحمول ورسائل التأكيد. يحدد OWASP المخاطر المرتبطة بمخارج تطبيقات LLM والوصول إليها: وبالتالي قصر صلاحيات chatbot على ما هو ضروري. ربط هذا العمل بـتحسين نموذج الاتصال للحفاظ على قضية موثوقة.