الهلوسة: عندما يؤلف بثقة

اسأل ChatGPT عن كتاب غير موجود، وقد يعطيك ملخصًا كاملًا له: اسم المؤلف، سنة النشر، وحتى اقتباسات! هذه الظاهرة تسمى الهلوسة: أن يؤلف النموذج معلومة خاطئة ويقدمها بثقة تامة وكأنها حقيقة مؤكدة.

لماذا يهلوس الذكاء الاصطناعي؟

النماذج اللغوية مثل ChatGPT وGemini وClaude لا «تعرف» الحقائق كما يعرفها الإنسان، بل تتنبأ بالكلمة التالية الأكثر احتمالًا بناءً على أنماط تعلمتها من نصوص ضخمة. عندما لا تملك المعلومة، قد تنتج نصًا يبدو صحيحًا لغويًا لكنه خاطئ واقعيًا.

• أسئلة عن تفاصيل دقيقة: أرقام، تواريخ، أسماء أشخاص، أسعار — أكثر المناطق عرضة للهلوسة
• أحداث حديثة: النموذج له تاريخ معرفي محدد، وما بعده قد يخمّنه تخمينًا إن لم يبحث في الإنترنت
• مصادر ومراجع: قد يخترع أسماء كتب ودراسات وروابط غير موجودة أصلًا
• مواضيع نادرة: كلما قلّت المعلومات عن موضوع في بيانات التدريب، زاد احتمال التأليف

قاعدة ذهبية: تحقق قبل أن تنقل

1. اسأل نفسك: هل هذه المعلومة سأبني عليها قرارًا أو سأنقلها لغيري؟ إن كانت الإجابة نعم، فالتحقق واجب
2. اطلب من النموذج مصادره، ثم افتح المصادر بنفسك وتأكد أنها موجودة وتقول ما نُسب إليها
3. ابحث عن المعلومة في جوجل أو في موقع رسمي موثوق (جهة حكومية، صحيفة معروفة، موقع الشركة نفسها)
4. اسأل نموذجًا آخر نفس السؤال (مثلًا ChatGPT ثم Gemini) — اختلاف الإجابات إشارة تحذير قوية
5. في المواضيع الحساسة (صحة، قانون، مال) اعرض الخلاصة على مختص بشري قبل التصرف

راجع إجابتك السابقة عن [الموضوع] بعين ناقدة:
1. حدد كل معلومة قابلة للتحقق (أرقام، تواريخ، أسماء، إحصاءات).
2. صنّف كل واحدة: متأكد منها / غير متأكد / قد تكون قديمة.
3. اذكر لي بصراحة أي جزء يُحتمل أنك ألّفته أو خمّنته.
4. اقترح لي مصدرًا رسميًا أستطيع التحقق منه بنفسي لكل نقطة غير مؤكدة.

الخلاصة: الذكاء الاصطناعي مساعد ممتاز ومرجع سيئ. استخدمه ليشرح ويصيغ ويلخص ويقترح، لكن لا تجعله المصدر النهائي لأي حقيقة ستنقلها باسمك.