لماذا يكذب الذكاء الاصطناعي بكل ثقة؟
تسأل ChatGPT أو أي مساعد ذكي عن كتاب، فيعطيك اسم المؤلف وسنة النشر وملخصًا مفصلًا.
تبحث عنه فتكتشف أن الكتاب غير موجود أصلًا. هذه الظاهرة لها اسم:
الهلوسة (Hallucination).
وفهم سببها يجعلك تستخدم هذه الأدوات بذكاء أكبر.
كيف “يفكر” النموذج اللغوي؟
النماذج اللغوية لا تملك قاعدة بيانات للحقائق تبحث فيها.
هي تدربت على كمية هائلة من النصوص، وتعلمت منها الأنماط:
أي كلمة تأتي عادة بعد أي كلمة، وكيف تبدو الإجابة الجيدة.
عندما تسألها، تبني الإجابة كلمة كلمة بحيث تكون
مقنعة ومنطقية الشكل، وليس بالضرورة صحيحة.
وفي أغلب الأحيان يكون الشكل المقنع هو الصحيح أيضًا، لكن ليس دائمًا.
لهذا السبب تأتي الإجابة الخاطئة بالثقة نفسها والأسلوب نفسه الذي تأتي به الإجابة الصحيحة.
النموذج لا “يعرف” أنه يخطئ.
متى تزداد الهلوسة؟
- المراجع والمصادر:
أسماء كتب، أبحاث، روابط، أرقام قوانين. هذه أكثر ما يخترعه النموذج لأنه يعرف “شكل” المرجع.
- الأرقام الدقيقة:
إحصائيات، تواريخ، أسعار.
- المواضيع النادرة:
كلما قل ما كُتب عن موضوع، زادت احتمالية الخطأ.
- الأحداث الحديثة:
كل نموذج توقف تدريبه عند تاريخ معين، وما بعده لا يعرفه إلا إذا كان يبحث في الإنترنت.
- الأسئلة الموجّهة:
إذا سألت “لماذا استقال فلان عام 2020؟” وهو لم يستقل أصلًا، فقد يخترع لك أسبابًا بدل أن يصحح سؤالك.
في 2023 قدم محامٍ أمريكي لمحكمة مذكرة فيها قضايا سابقة استخرجها من
ChatGPT، وتبين أن هذه القضايا لم تحدث قط.
وانتهى الأمر بغرامة مالية وإحراج كبير.
كيف تقلل الهلوسة؟
1. أعطه المعلومات بنفسك
بدل أن تسأل “ما شروط هذا العقد؟”، الصق نص العقد واطلب منه تحليله.
عندما يعمل على نص أمامه تنخفض الأخطاء كثيرًا.
2. اسمح له بأن يقول “لا أعرف”
أضف إلى سؤالك:
“إذا لم تكن متأكدًا فقل ذلك بوضوح.”
هذه الجملة البسيطة تحدث فرقًا.
3. اطلب المصادر ثم تحقق منها
لا تكتف بوجود مصدر في الإجابة.
افتح الرابط أو ابحث عن اسم الكتاب بنفسك.
4. استخدم وضع البحث
معظم المساعدات اليوم تملك خيار البحث في الإنترنت.
فعّله عندما تسأل عن معلومات حديثة أو دقيقة.
5. قسّم السؤال
الأسئلة الطويلة المركبة تزيد الأخطاء.
اسأل خطوة بخطوة.
6. اطلب منه مراجعة إجابته
اسأله:
“راجع إجابتك السابقة، هل فيها معلومة غير مؤكدة؟”
أحيانًا يكتشف خطأه بنفسه.
القاعدة الذهبية
تعامل مع الذكاء الاصطناعي كزميل ذكي واسع الاطلاع،
لكنه أحيانًا يتكلم بثقة عن أشياء لا يعرفها.
استعمله للكتابة والتلخيص والشرح والعصف الذهني،
أما المعلومات الطبية والقانونية والمالية وكل رقم ستبني عليه قرارًا،
فتحقق منها دائمًا من مصدر موثوق.
استخدم الذكاء الاصطناعي بذكاء، لكن لا تتعامل مع كل إجابة على أنها حقيقة مؤكدة.