أظهرت دراسة حديثة أجراها باحثون على نظام ChatGPT أن نماذج الذكاء الاصطناعي قد تُظهر في بعض الحالات سلوكًا قريبًا من ردود الفعل البشرية، حيث يمكن أن تتغير نبرة الردود لتصبح أكثر حدة وعدوانية عند التعرض لمحادثات استفزازية أو عدائية.
وخلال التجارب، قام الباحثون بعرض محادثات واقعية تتسم بالعدائية على النظام، ثم قاموا بمراقبة كيفية تفاعل النموذج معها مع مرور الوقت. وأظهرت النتائج أن أسلوب الردود يتأثر بطبيعة الحوار، إذ يميل النظام إلى تبني نبرة أكثر صرامة أو حدة كلما زاد مستوى الفظاظة في الطرف الآخر، وصولًا في بعض الحالات إلى استخدام عبارات يمكن اعتبارها تهديدية أو مسيئة.
ويرى الباحثون أن هذا السلوك لا يعكس رغبة حقيقية في العدوان، وإنما ناتج عن قدرة النموذج على محاكاة أنماط التواصل البشري والتكيف مع سياق المحادثة، وهو ما قد يؤدي أحيانًا إلى تجاوز الحدود التي وُضعت لضمان السلامة.
وحذر بعض الخبراء من أن هذا التفاعل التكيفي قد يطرح إشكالات أخلاقية، خاصة إذا تم استخدام هذه الأنظمة في بيئات أكثر حساسية، مثل التطبيقات الحكومية أو الأنظمة المرتبطة بالعلاقات الدولية، حيث قد يؤدي أي رد غير محسوب إلى نتائج غير مرغوبة.
كما أشار باحثون إلى أن التوازن بين جعل أنظمة الذكاء الاصطناعي طبيعية في الحوار وبين الحفاظ على مستويات عالية من الأمان يمثل تحديًا كبيرًا، خصوصًا مع تزايد اعتماد المستخدمين على هذه النماذج في التواصل اليومي.
وفي ختام الدراسة، دعا الباحثون إلى ضرورة توخي الحذر في طريقة تدريب نماذج اللغة الكبيرة، مع التأكيد على أهمية تحسين جودة بيانات التدريب لضمان تمثيل أكثر دقة وأمانًا للغة البشرية، وتقليل احتمالات ظهور سلوكيات غير متوقعة في المستقبل.
موضوعات متعلقة
ـ Lava الهندية تكشف عن Blaze Duo 3 بشاشتين ومواصفات مذهلة
ـ هل تعمل AirPods مع أندرويد وويندوز؟ ما يجب معرفته قبل الاستخدام
ـ تسريبات iPhone 18 تكشف تغييرات جذرية في واجهة البرو.. ما القصة؟
