الهلوسة (Hallucination)

النموذج اللغوي يتنبأ بأكثر الكلمات التالية معقولية بناءً على كل ما سبقها. حين تكون الإجابة الصحيحة في سياقه، يتطابق المعقول والصحيح غالباً. وحين لا تكون، حين تسأل عن ساعات عمل عيادتك يوم الجمعة والنموذج لم يرها قط، يبقى الاستكمال الأكثر معقولية جملة واثقة فيها وقت. لا يملك النموذج علماً داخلياً يقول 'لا أعرف هذا'؛ يجب أن يُمنح إياه عبر طريقة بناء النظام.

بالنسبة للشركة، الإجابة المهلوسة مسؤولية قانونية لا مجرد إزعاج. وكيل يخترع خصماً، أو يخطئ في مدة الاسترجاع، أو يخبر مريضاً بجرعة دواء، ينتج عنه استرداد أو شكوى أو ما هو أسوأ. وتضيف العربية خطراً محدداً: النماذج المدرّبة أساساً على الإنجليزية والفصحى أكثر ميلاً لسدّ الفجوات حين يصل السؤال بلهجة خليجية أو عربيزي، لأن المدخل نفسه أقل ألفة لها. لهذا فإن 'يعمل في العرض التجريبي' ليس دليلاً؛ فالعرض طرح أسئلة أعدّها المزوّد.

تقليل الهلوسة انضباط هندسي بثلاث طبقات. التوليد المعزز بالاسترجاع (RAG) يضع مستندات الشركة الحقيقية أمام النموذج ليستند الرد إلى نص يستطيع اقتباسه. الضوابط (Guardrails) تقيّد ما يجوز للنموذج قوله، وتجبره على الاعتذار أو التحويل حين لا يعيد الاسترجاع شيئاً، وتمنع ادعاءات محددة (أسعار، نصائح طبية) ما لم تأتِ من مصدر موثوق. واختبارات المجموعة الذهبية تقيس نسبة الخطأ المتبقية على أسئلة عملاء حقيقية قبل كل إصدار. تقدّم Nano AI الطبقات الثلاث مع كل وكيل وتشارك نتائج الاختبارات مع العميل؛ وهذا ما يوثّقه تقرير الـ 30 يوماً المقاس في باقة Launch.