يعني إيه AI Hallucination بالمصري؟
الهلوسة هي إن الـ AI يرد عليك بمعلومة غلط أو متألّفة، بس بثقة كاملة وبصياغة مقنعة. ممكن يخترع سعر، أو رقم مادة في قانون، أو مرجع مش موجود أصلًا. ده بيحصل لأن الموديل بيكتب الكلام الأقرب للصح لغويًا، مش بالضرورة الصح فعلًا.
زي اللي تسأله في الشارع على عنوان وهو مش عارفه، فبدل ما يقول «معرفش» يقولك بكل ثقة «امشي على طول وخش تاني يمين». هو مش قصده يتوّهك، بس كان عايز يساعد وخلاص. والموديل كده برضه: هدفه يكمّل الكلام بشكل مقنع، مش يعترف إنه مش عارف.
للشغل، الهلوسة خطر حقيقي لو البوت بيرد على عملاء. والحل مش إنك تبطّل AI، لكن توصّله بمعلوماتك الصح بالـ RAG، وتقوله صراحة يقول «مش متأكد» ويحوّل لموظف لما مايلاقيش إجابة، وتراجع الحاجات الحساسة بنفسك.
بالرسم تفهمها أسرع
- يرد من معلوماته العامة
- ممكن يألّف بثقة
- مفيش مرجع للرد
- يرد من مستنداتك
- يقول «مش متأكد» لو مالقاش
- تقدر تراجع المصدر
مثال عملي
متجر إلكترونيات أونلاين جرّب بوت عام من غير ربط ببياناته. عميل سأل عن مدة ضمان لابتوب معيّن، والبوت رد بمدة من دماغه مش موجودة في سياسة المتجر. لما بنينا واصل بوت للمتجر، ربطناه بسياسة الضمان الرسمية، وحطينا تعليمات واضحة: لو المعلومة مش موجودة في المصدر، يعتذر ويحوّل العميل لخدمة العملاء بدل ما يخمّن.
قول للعميل كده
هنخلّي البوت يرد من معلوماتك المعتمدة بس، ولو مش عارف حاجة يقول كده ويحوّل العميل لحد من فريقك.
جملة جاهزة لفريق المبيعات والدعم الفني: بتشرح الفكرة للعميل من غير مصطلحات.
متلخبطش بينه وبين…
الـ Bug غلطة في كود البرنامج بتتكرر بنفس الشكل لحد ما تتصلّح. الهلوسة طبيعة في طريقة شغل الموديل نفسه، وممكن تظهر في سؤال وتختفي في نفس السؤال بصياغة تانية.
اعرف يعني إيه Bugغلطة شائعة
ناس فاكرة إن الهلوسة عيب في النماذج الرخيصة بس وهتختفي في الأغلى. الحقيقة إن كل النماذج ممكن تهلوس بدرجات مختلفة، والحل في طريقة البناء: مصدر واضح وحدود ومراجعة.
أسئلة بتتسأل كتير
أعرف إزاي إن الـ AI بيهلوس؟
خلّي بالك من الأرقام والتواريخ والمراجع الدقيقة جدًا اللي من غير مصدر، أو المعلومة اللي مش لاقيها في أي مكان تاني. اطلب منه المصدر، وراجع أي معلومة هتاخد عليها قرار.
هل أقدر أمنع الهلوسة 100%؟
مفيش ضمان كامل، لكن تقدر تقللها جدًا بربط البوت بمعلوماتك، وتحديد الحاجات اللي يرد عليها، ومراجعة بشرية للحاجات الحساسة زي الأسعار والنصايح الطبية.
مين محتاج يفهمه أكتر؟
المصطلح ده بيتكرر كتير في شغل القطاعات دي: