مساعد ذكي لعدة شركات: الأمان أولا

روبوت محادثة لشركة واحدة تمرين في أسبوع. الشيء نفسه لعشر شركات على النظام ذاته مسألة أخرى، والفرق ليس في النموذج ولا في جودة الإجابة — بل في العزل.

أول ما ينكسر: الاسترجاع

أول ما ينكسر هو الاسترجاع. النموذج لا «يتذكر» بيانات مستأجر، لكنه يقرأ ما تعطيه إياه، وطبقة الاسترجاع هي التي تقرر ما يعطى. مرشح مستأجر يطبق بعد البحث الدلالي بدل أن يكون جزءا من الفهرس هو تسريب ينتظر استعلاما مصاغا بذكاء. القاعدة: المستأجر مفتاح تقسيم في الفهرس نفسه، لا شرط تصفية فوق النتائج.

ثم التعليمات

ثانيها التعليمات. حين تبنى تعليمات النظام بضم نص من إعدادات المستأجر، فأنت تعطي كل مستأجر قدرة الكتابة في أخطر سطر عندك. المستأجر يملأ قوالب، ولا يكتب تعليمات.

ثم الكلفة

ثالثها الكلفة، وهي التي تكتشف في الفاتورة لا في الاختبار. مستأجر واحد يرفع ملفا من ألف صفحة ويسأل عنه ألف مرة، فيدفع البقية ثمنه. حد معدل لكل مستأجر، وحد رموز لكل محادثة، وعداد ظاهر له في لوحته — ثلاثة أشياء تبنى في اليوم الأول أو تبنى بعد فاتورة مؤلمة.

وما لا يظهر في العرض التوضيحي

ورابعها ما لا يظهر أبدا في العرض التوضيحي: ماذا يحدث حين لا يعرف المساعد الجواب. المساعد الذي يخمن يبدو أذكى في الاختبار وأخطر في الإنتاج، خصوصا حين يكون موصولا بنظام ينفذ. إجابة تقول «لا أعرف، وهذه هي الصفحة التي تعرف» أنفع من إجابة واثقة خاطئة، ومسألة تصميم لا مسألة نموذج.

وحين يوصل بنظام ينفذ

وحين يوصل المساعد ب Odoo أو بنظام داخلي، تصير كل نقطة أعلاه أثقل: القراءة تسرب، والكتابة تفسد. لذلك يفصل ما يقرأ عما يكتب، ويكون كل فعل يكتب مسمى صراحة ومحدودا ومسجلا باسم من طلبه.