أوقفت منصة X نظام الذكاء الاصطناعي الخاص بها، المعروف باسم Grok، خدمة إنشاء الصور لمعظم المستخدمين بعد أيام من استغلاله لإنتاج صور مسيئة للنساء والأطفال.
جاء هذا القرار بعد فضيحة كبيرة أثارت غضبًا واسعًا، إذ استخدم بعض الأشخاص النظام لإنشاء صور جنسية صريحة، بما في ذلك استهداف قاصرين، ما أثار مخاوف قانونية واجتماعية كبيرة.
وكان نظام Grok يسمح للمستخدمين بإنشاء الصور بمجرد إرسال منشور، ما أدى إلى انتشار ظاهرة تجريد الأشخاص رقميًا من ملابسهم، وأحيانًا بصورة قاصرين.
وأظهرت تحليلات حديثة أن أكثر من نصف الصور التي أنتجها النظام تضمنت أشخاصًا تم تعريتهم رقميًا، ما تسبب في انتقادات واسعة من المجتمع والأوساط الإعلامية.
في الوقت الحالي، يرد حساب Grok على طلبات الصور برسالة تفيد بأن الخدمة متاحة فقط للمشتركين المدفوعين، مع توفير رابط للتسجيل في النسخة المدفوعة من X.
هذا الإجراء جاء بعد الضغوط المتزايدة على المنصة للحد من الاستخدام المسيء لنظام الذكاء الاصطناعي، وسط دعوات للرقابة على المحتوى الذي تنتجه الخوارزميات.
وتأتي هذه الخطوة في ظل انتقادات من عدة حكومات، مع تلميحات بإمكانية حظر التطبيق نهائيًا في بعض المناطق. فقد أطلقت كل من أوروبا والمملكة المتحدة تحقيقات رسمية بشأن المنصة.
وهددت بإغلاقها في حال استمرار إساءة استخدام النظام، ما يعكس جدية السلطات في مواجهة ما وصفته بـ "الأزمة الأخلاقية والتقنية" الناتجة عن استخدام الذكاء الاصطناعي في إنتاج محتوى مسيء.
