شهدت منصات التقنية نقاشًا متجددًا حول موثوقية روبوتات الدردشة، بعدما أكد مسؤول في شركة «أوبن إيه آي» أن «شات جي بي تي» لا ينبغي الاعتماد عليه كمصدر رئيسي للمعلومات.
وقال نيك تورلي، رئيس «شات جي بي تي» في الشركة، خلال بودكاست أُذيع الأسبوع الماضي، إن هناك فجوة كبيرة بين «الموثوقية العالية» و«الموثوقية بنسبة 100%»، مشيرًا إلى أن المنتج سيواصل نصح المستخدمين بالتحقق من الإجابات.
وأوضح تورلي أن أفضل استخدام للخدمة حاليًا هو اعتبارها «رأيًا ثانيًا» لا بديلاً كاملاً عن المصادر الأساسية أو الخبراء المتخصصين.
ويظهر للمستخدمين بالفعل تنبيه أسفل واجهة المحادثة يفيد بأن «شات جي بي تي قد يخطئ، لذا يُنصح بالتحقق من المعلومات المهمة»، وهو إشعار يستمر حتى مع أحدث نموذج للشركة «GPT-5».
وتطرق التقرير إلى أن إغراء الاكتفاء بإجابات النماذج التوليدية—سواء من روبوتات الدردشة أو ملخصات الذكاء الاصطناعي في نتائج البحث—قد يدفع بعض المستخدمين لتبنّي المعلومات دون تمحيص، رغم ميل هذه النماذج إلى «الهلوسة» أو اختلاق تفاصيل غير دقيقة.
ويعود ذلك إلى طبيعة تصميمها القائمة على التنبؤ بالنص الأكثر احتمالًا بناءً على بيانات التدريب، لا على التحقق الحرفي من الحقائق.
وبالمقارنة مع الأطباء أو المستشارين الماليين أو المختصين النفسيين—الذين يُفترض أن يقدموا إجابات صحيحة لحالات بعينها—فإن نماذج الذكاء الاصطناعي غالبًا ما تُنتج الإجابة «الأرجح» لا «الأدق»، لغياب خبرة متخصصة قادرة على التحقق الميداني من المحتوى.
وأشار تورلي إلى أن «GPT-5» حقق «تحسنًا هائلًا» في تقليل الهلوسات مقارنة بالإصدارات السابقة، لكنه لا يزال بعيدًا عن الكمال.
وأبدى ثقته بإمكان حل المشكلة «في نهاية المطاف»، مع إقراره بأن ذلك لن يحدث على المدى القصير، الأمر الذي يستلزم استمرار المستخدمين في التحقق من المعلومات التي يقدمها النموذج، خاصة مع رصد مستخدمين أخطاءً بالفعل في بعض المخرجات.
