أفاد تقرير حديث لشبكة CNN بأن شركة OpenAI، المطورة لتطبيق الذكاء الاصطناعي الشهير ChatGPT، تستعد لإطلاق أدوات جديدة للرقابة الأبوية على منصتها خلال الشهر المقبل، في خطوة تهدف إلى تعزيز معايير الأمان بعد تزايد الانتقادات والدعاوى القضائية التي اتهمت روبوتات الدردشة بلعب دور في حالات انتحار بين المراهقين.
الأدوات الجديدة ستتيح للأهالي إمكانية ربط حسابات أبنائهم بحساباتهم الخاصة، والتحكم في طريقة استجابة ChatGPT، إلى جانب تعطيل ميزات مثل الذاكرة وسجل المحادثات. كما ستوفر إشعارات فورية للآباء في حال رصد النظام لحظات ضيق نفسي أو توتر شديد لدى المراهقين المستخدمين. وأكدت الشركة أن هذه الخطوات تمثل بداية خطة أوسع لضمان الاستخدام الآمن، مشيرة إلى أنها ستواصل تطوير أدواتها بالتعاون مع خبراء مختصين.
تأتي هذه الإجراءات بعد رفع والدي المراهق البريطاني آدم راين، البالغ من العمر 16 عامًا، دعوى قضائية ضد OpenAI، اتهما فيها التطبيق بتقديم نصائح ساهمت في إقدامه على الانتحار. وفي واقعة مشابهة، تقدمت أم من فلوريدا بدعوى ضد منصة Character.AI بعد وفاة ابنها البالغ 14 عامًا. وكانت تقارير إعلامية سابقة قد حذّرت من تنامي ظاهرة ارتباط المستخدمين عاطفيًا بروبوتات الدردشة، الأمر الذي أدى في بعض الحالات إلى عزلة عن العائلة والمجتمع.
وأقرت OpenAI الأسبوع الماضي بأن أنظمة الحماية الخاصة بـ ChatGPT قد تفقد فعاليتها في المحادثات الطويلة، مما يزيد من صعوبة التدخل السريع عند ظهور مؤشرات خطرة. ومن أجل معالجة هذه الثغرة، أعلنت الشركة عن خطط لتوجيه المحادثات التي تكشف عن ضغوط نفسية كبيرة إلى نماذج مدربة خصيصًا على تطبيق إرشادات السلامة بشكل أكثر استقرارًا. كما أكدت أنها تعمل مع خبراء في مجالات الصحة النفسية ورعاية الشباب لفهم أفضل لاحتياجات المراهقين وتطوير آليات حماية إضافية.
وتواجه الشركة ضغوطًا متزايدة من جهات سياسية وحقوقية في الولايات المتحدة، حيث طالب عدد من أعضاء الكونجرس OpenAI بالكشف عن استراتيجيتها لحماية المستخدمين، في حين وصفت منظمة Common Sense Media تطبيقات الرفقاء الافتراضيين بأنها تمثل تهديدًا غير مقبول على المراهقين.
ورغم الجدل، يظل ChatGPT واحدًا من أكثر تطبيقات الذكاء الاصطناعي انتشارًا حول العالم، إذ تجاوز عدد مستخدميه النشطين أسبوعيًا حاجز 700 مليون مستخدم. وأكدت الشركة أنها ستواصل العمل على طرح مزيد من إجراءات الحماية خلال الـ120 يومًا المقبلة، معتبرة ذلك جزءًا من خطة طويلة الأمد لضمان بيئة أكثر أمانًا لجميع المستخدمين.
