الضوابط الوقائية (Guardrails)

تعمل الضوابط الوقائية في عدة نقاط ضمن النظام: ضوابط المدخلات تفحص الرسائل الواردة بحثاً عن محاولات التلاعب بالنموذج (حقن الطلبات)، أو محتوى مسيء، أو طلبات خارج النطاق بوضوح؛ وضوابط المخرجات تفحص مسودة رد النموذج قبل إرسالها — للتحقق من أنها لا تَعِد بما لا تستطيع الشركة تقديمه، ولا تكشف بيانات حساسة، وتبقى ضمن موضوع محدد (روبوت عيادة يجب ألا يقدّم تشخيصاً طبياً أبداً)، ولا تستشهد إلا بمعلومات مسترجَعة فعلياً بدلاً من حقائق مختلقة. يمكن تنفيذ الضوابط كفلاتر بسيطة قائمة على قواعد، أو نموذج ثانٍ يفحص مخرجات النموذج الأول، أو رفض مبرمج مسبقاً لمواضيع معينة، وعادة ما تُصعّد الحالة لموظف بشري عندما تخرج الرسالة عمّا يستطيع الوكيل التعامل معه بثقة أو له صلاحية للتعامل معه.

الضوابط الوقائية هي ما يجعل وكيل الذكاء الاصطناعي آمناً لوضعه أمام عملاء حقيقيين في سوق منظّم: وكيل واتساب لبنك في الرياض يجب أن يملك ضابطاً صارماً يرفض مناقشة قرارات الموافقة على القروض أو الإفصاح عن أرصدة الحسابات لأرقام غير موثقة، ووكيل صوتي لعيادة يجب أن يملك ضابطاً يُحوّل أي وصف لأعراض مباشرة إلى الموظفين بدلاً من محاولة الإجابة عليه — وكلاهما قرار عمل وامتثال مقصود مُبرمج كقاعدة، وليس شيئاً يقوم به النموذج الأساسي من تلقاء نفسه، ويجب اختباره باستمرار عبر تقييمات النماذج اللغوية.