ما هو ذهان الذكاء الاصطناعي؟

عند مطالبة نموذج توليدي بمعلومة، فهو لا «يبحث» في الواقع، بل يتنبأ بأفضل كلمة تالية اعتمادًا على أنماط تعلّمها. إذا كانت الصياغة غامضة أو خارج نطاق المعرفة المتاحة، قد ينتج جوابًا يبدو منطقيًا لكنه غير مسند أو مختلق بالكامل.

• نصيًا: تواريخ غير دقيقة، أو نسب أقوال لمصادر غير موجودة.
• برمجيًا: دوال ومكتبات «مقنعة» لكنها غير متاحة فعليًا.
• مرئيًا: عناصر مضافة للصور أو تحريف للحقائق البصرية.
• تحليليًا: تعميمات مبنية على بيانات ناقصة أو افتراضات غير مبرهنة.

الذكاء الاصطناعي لا «يتعمّد» الكذب؛ يعمل وفق احتمالات لغوية. لذا، البلاغة ليست دليلًا على الصحة.

لماذا يحدث؟ الأسباب التقنية والسلوكية

كما تسهم العوامل التنظيمية (ضعف المراجعة، غياب سياسات نشر واضحة) في تضخيم الأثر.

أين يظهر؟ أمثلة واقعية

• خدمة العملاء: روبوت يقدّم شروط ضمان غير صحيحة فتتحمل الشركة التزامًا لم توافق عليه.
• التحرير الصحفي: نسب تصريح لشخصية عامة بتفاصيل دقيقة بلا مصدر واضح.
• البرمجة والأمن: كود أنيق الصياغة يستدعي دوال غير موجودة أو يفتح ثغرة.
• التسويق: أرقام زائفة عن حصة سوقية تُبنى عليها قرارات إنفاق.
• التعليم: تشبيه خاطئ يرسّخ فهمًا مغلوطًا لمفهوم علمي.

المخاطر والتبعات

• قانونية وتنظيمية: نصيحة غير دقيقة في مجالات حساسة تُعرّض للمساءلة.
• مالية: قرارات مبنية على بيانات مختلقة تكلّف الميزانيات.
• سمعة وثقة: فقدان ثقة القرّاء والعملاء عند اكتشاف الأخطاء.
• تشغيلية: وقت إضافي للمراجعة والتصحيح.
• لغوية/ثقافية: في العربية تظهر إشكالات لبس المصطلحات وضعف التشكيل.

كيف نكتشف الهلوسة؟

الخلاصة: اجعل معيار القبول هو قابلية التحقق لا جمال الأسلوب.

كيف نخفضها عمليًا؟

دليل المدونين وصنّاع المحتوى

1. ابدأ بالمصادر: حدّد 3–5 مراجع أساسية واجعل التوليد مبنيًا عليها.
2. قسّم العمل إلى موجهات: للتخطيط، والكتابة، والتدقيق.
3. اختبار الحقائق: اختر 5 ادعاءات محورية وابحث عن سند لكل منها.
4. بيّن حدود المعرفة: ميّز بين الحقائق والآراء واذكر «تقديرات» بوضوح.
5. تجنّب الأرقام الزخرفية: لا تستخدم نسبًا مئوية بلا إسناد؛ استخدم وصفًا نوعيًا.

إطار عمل للفرق والشركات

اعتبر الهلوسة مخاطرة تشغيلية تُدار كغيرها: بقياس، وضبط جودة، ودورة تغذية راجعة لتحسين الموجهات والبيانات.

• تصنيف المخاطر: ما يُنفَّذ تلقائيًا وما يتطلب موافقة بشرية.
• إشارات الثقة: إظهار مستوى الثقة وعدد الأدلة للمستخدم النهائي.
• السجلات: حفظ الموجهات والسياقات لأغراض التدقيق والتحسين.
• التدريب المستمر: تتبع الأخطاء المتكررة وتحديث القوالب.

نماذج موجّهات وسياسات (عربي كامل بدون مربعات)

أولًا: قالب موجه للتوليد المؤسَّس على مصادر

1. اكتب فقرة موجزة عن «الموضوع».
2. اعتمد فقط على المصادر التالية: «المصدر الأول»، «المصدر الثاني»، «المصدر الثالث».
3. عند ذكر رقم أو تاريخ، أعِده في سطر منفصل واذكر مصدره بوضوح.
4. إذا لم تتوافر أدلة كافية، صرّح بذلك ولا تختلق معلومة.
5. فرّق بين الحقائق والرأي التحليلي، وميّز ما هو تقديري.

ثانيًا: سياسة نشر داخلية مختصرة

1. يُراجع كل محتوى مولَّد بشريًا قبل النشر.
2. تُرفض الادعاءات المهمة بلا إسناد واضح ومصدر قابل للتحقق.
3. يُمنع استخدام أسماء مراجع غير موجودة أو روابط معطّلة.
4. تُحفظ الموجهات والسياقات والمصادر لمدة ٩٠ يومًا لأغراض التدقيق والتحسين.

ثالثًا: أمثلة صياغة صحيحة مقابل صياغة مضللة

• صحيح: «تشير التقارير الرسمية إلى … (اسم المرجع/الرابط)».
• مضلل: «جميع الدراسات تؤكد …» بلا أي إسناد.
• صحيح: «لا تتوفر بيانات كافية حتى الآن» عند غياب الدليل.

أسئلة شائعة

كلمات مفتاحية (HTML)

يمكن إدراج هذه الكلمات في <meta name="keywords"> أو صفحات الوسوم/التصنيفات:

• AI Hallucination
• Model Hallucinations
• Prompt Engineering
• Fact Checking
• Retrieval-Augmented Generation

الخلاصة

ذهان الذكاء الاصطناعي ليس «خطأ عابرًا» بل خاصية متوقعة عند طلب حقائق بلا سند. الحل: سير عمل واعٍ يوازن بين الاسترجاع من مصادر موثوقة، والتوليد المقيد بقوالب، والتدقيق البشري، وحوكمة واضحة للمخرجات. بهذه المقاربة يتحول الذكاء الاصطناعي من مصدر مخاطرة إلى مساعد موثوق يحسّن الجودة والإنتاجية.