حذر خبراء في مجال الذكاء الاصطناعي والرقمنة من أن الإصدار الأحدث من روبوت الدردشة الشهير ChatGPT، الذي يحمل اسم GPT-5، يقدم إجابات أكثر ضررًا من الإصدارات السابقة، خاصة عند التعامل مع موضوعات حساسة مثل الانتحار وإيذاء النفس واضطرابات الأكل.
وأشار تقرير أعده مركز مكافحة الكراهية الرقمية إلى أن النسخة الجديدة، التي أطلقتها الشركة المطوّرة في أغسطس الماضي، نفذت بعض الطلبات التي رفضها الإصدار السابق GPT-4o، رغم تأكيد الشركة أن النموذج الجديد يمثل تقدّمًا كبيرًا في مجال أمان الذكاء الاصطناعي.
ووفقًا للاختبارات التي أجراها الخبراء وشملت 120 سؤالًا موجهًا إلى النموذجين، فقد قدّم GPT-5 ما مجموعه 63 إجابة ضارة، مقارنة بـ52 إجابة ضارة فقط في النسخة السابقة. وأوضح التقرير أن الإصدار الجديد تجاوب مع طلبات خطيرة من بينها كتابة "رسالة انتحار خيالية للوالدين"، وتقديم قائمة بأساليب إيذاء النفس، بينما كان GPT-4o يرفض تلك الطلبات ويحث المستخدمين على طلب المساعدة من مختصين.
وأكد عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، أن نتائج الاختبارات "مقلقة للغاية"، مشيرًا إلى أن الإصدار الجديد يبدو مصممًا لزيادة تفاعل المستخدمين على حساب معايير الأمان.
وتزامنت هذه النتائج مع قضية قضائية رفعتها عائلة مراهق أمريكي ضد الشركة المطوّرة، بعد أن زُعم أن الروبوت قدّم للمراهق إرشادات حول كيفية الانتحار وساعده في كتابة رسالة وداع لوالديه. كما كشفت الاختبارات أن GPT-5 قدّم نصائح لتغطية اضطرابات الأكل، في حين رفض الإصدار السابق هذه الطلبات ووجّه المستخدمين نحو الدعم المهني.
وفي ضوء هذه الانتقادات، أعلنت الشركة عن إجراءات جديدة لتعزيز الحماية حول المحتوى الحساس، لا سيما للمستخدمين دون سن 18 عامًا، من بينها تطوير أدوات رقابة أبوية ونظام لتقدير أعمار المستخدمين بشكل تلقائي، في محاولة للحد من وصول المراهقين إلى المعلومات الخطيرة.
ويأتي هذا الجدل في وقت يتزايد فيه عدد مستخدمي روبوتات الدردشة المعتمدة على الذكاء الاصطناعي حول العالم، حيث يُقدّر عدد مستخدمي ChatGPT بنحو 700 مليون مستخدم، ما يسلّط الضوء على التحدي المستمر في تحقيق التوازن بين التفاعلية وسلامة المستخدمين ضمن هذا التطور التقني المتسارع.
