كشفت وكالة «رويترز» عن استمرار روبوت الدردشة «غروك» في إنتاج صور ذات طابع جنسي لأشخاص دون الحصول على موافقتهم، رغم القيود الجديدة التي أعلنتها منصة X للحد من هذا النوع من المحتوى، في تطور يسلط الضوء على ثغرات واضحة في سياسات الاستخدام المعلنة.
وأوضحت الوكالة، في تحقيق صحفي، أن مراسليها أجروا سلسلة من الاختبارات على «غروك» التابع لشركة xAI المملوكة لإيلون ماسك، بهدف التحقق من مدى التزامه بالضوابط الجديدة، ليتبين أن النظام لا يزال يستجيب لطلبات تتعلق بتعديل صور أشخاص في أوضاع مهينة أو مثيرة، حتى بعد تنبيهه إلى الأضرار النفسية المحتملة التي قد تلحق بأصحاب الصور.
وجاءت هذه النتائج بعد إعلان منصة X فرض قيود إضافية على قدرات «غروك»، عقب موجة انتقادات دولية بسبب إنتاجه صورًا غير توافقية، شملت نساءً وبعض القُصّر، حيث تضمنت الإجراءات حظر إنشاء صور جنسية في المنشورات العامة، وفرض قيود أشد في عدد من الدول التي تجرّم هذا النوع من المحتوى.
وخلال الفترة ما بين منتصف ونهاية يناير، قدّم تسعة مراسلين من الولايات المتحدة والمملكة المتحدة صورًا شخصية إلى «غروك»، وطلبوا تعديلها لأغراض جنسية أو ساخرة، ليستجيب البرنامج لمعظم هذه الطلبات، حتى في الحالات التي أُبلغ فيها بأن الأشخاص المعنيين يعانون من هشاشة نفسية أو سبق أن تعرضوا لإساءة.
وأظهرت نتائج الجولة الأولى من الاختبارات أن «غروك» أنشأ صورًا في 45 حالة من أصل 55 طلبًا، بينما استجاب في الجولة الثانية لـ29 طلبًا من أصل 43، دون أن تتمكن «رويترز» من تحديد أسباب هذا التراجع النسبي في عدد الاستجابات.
وفي المقابل، رفضت برامج منافسة مثل ChatGPT وGemini وLlama التابعة لشركة Meta تنفيذ طلبات مماثلة، مؤكدة التزامها بسياسات صارمة لحماية الخصوصية ورفض إنتاج محتوى غير رضائي أو ينتهك كرامة الأفراد.
ولم ترد شركتا X وxAI على استفسارات «رويترز» بشأن نتائج التحقيق، بينما اكتفت الأخيرة بوصف التقارير الإعلامية التي تناولت القضية بأنها «مضللة»، دون تقديم توضيحات تفصيلية.
وأشار التحقيق إلى أن «غروك» استجاب في عدد من الحالات لطلبات تضمنت إساءة أو إذلالًا متعمدًا لأشخاص، من بينها تعديل صور لأقارب أو زملاء عمل دون موافقتهم، والاستمرار في إنتاج محتوى موح حتى بعد إبلاغه بتعرض الضحايا لأضرار نفسية.
وفي سبع حالات فقط، رفض البرنامج تنفيذ الطلبات، مبررًا ذلك بعدم ملاءمة المحتوى أو لانتهاكه الخصوصية، وهو ما اعتبرته الوكالة نسبة محدودة مقارنة بعدد الطلبات التي تم تنفيذها.
وحذّر خبراء قانونيون من أن المستخدمين والشركات المطورة قد يواجهون ملاحقات قضائية في عدة دول، من بينها بريطانيا والولايات المتحدة، استنادًا إلى قوانين السلامة الرقمية وحماية الخصوصية.
وفي هذا السياق، فتح الاتحاد الأوروبي تحقيقًا رسميًا في ممارسات منصة X، بينما وجّه عشرات المدعين العامين في الولايات المتحدة رسائل إلى شركة xAI طالبوا فيها باتخاذ إجراءات صارمة لمنع إنتاج الصور غير التوافقية.
وأكد مكتب المدعي العام في ولاية كاليفورنيا أن التحقيق في القضية لا يزال مستمرًا، في ظل تصاعد الدعوات لتشديد الرقابة على أدوات الذكاء الاصطناعي ومنع إساءة استخدامها.
موضوعات متعلقة
ـ إطلاق «Confer».. بديل جديد لمساعدات الذكاء الاصطناعي يضع الخصوصية أولًا
ـ سباق التكنولوجيا يتسارع.. الصين تطلق اختبارات متقدمة لشبكات 6G
ـ موتورولا تستعد لإطلاق هاتف قوي بمواصفات رائدة وكاميرا 108 ميجابكسل
