أعلنت شركة OpenAI إطلاق ميزة أمنية جديدة تحمل اسم "Lockdown Mode"، في خطوة تستهدف تعزيز حماية أنظمة الذكاء الاصطناعي من هجمات "Prompt Injection"، التي تُعد من أبرز أساليب استغلال النماذج الذكية عبر إدراج تعليمات خفية داخل صفحات الويب أو مصادر المحتوى المختلفة للتأثير على مخرجات الأنظمة أو دفعها إلى كشف معلومات حساسة.
وأوضحت الشركة أن الميزة الجديدة صُممت للحد من مخاطر تسرب البيانات، من خلال فرض مجموعة من القيود الأمنية على بعض الوظائف التي قد تُستغل كنقاط دخول لمثل هذه الهجمات، بما يرفع من مستوى الحماية أثناء استخدام خدمات الذكاء الاصطناعي.
قيود إضافية لحماية البيانات الحساسة
ويتضمن "Lockdown Mode" تعطيل التصفح المباشر للإنترنت والاكتفاء بالمحتوى المخزن مؤقتًا، إلى جانب منع جلب الصور وعرضها من مواقع الويب، مع استمرار إتاحة ميزة إنشاء الصور للمستخدمين.
كما يؤدي تفعيل الوضع الأمني إلى إيقاف ميزتي "Deep Research" و"Agent Mode"، باعتبارهما من الأدوات التي قد تتطلب تفاعلًا أوسع مع مصادر خارجية يمكن أن تشكل منفذًا للمحاولات الخبيثة.
لا يوفر حماية كاملة من الهجمات
ورغم الإجراءات الأمنية المشددة، أكدت OpenAI أن الميزة الجديدة لا توفر حصانة كاملة ضد هجمات حقن الأوامر، موضحة أن التعليمات الضارة قد تظل موجودة داخل المحتوى المخزن مؤقتًا أو الملفات التي يقوم المستخدمون برفعها، ما قد يؤثر أحيانًا على سلوك النظام أو دقة النتائج التي يقدمها.
وشددت الشركة على أن الهدف الرئيسي من "Lockdown Mode" يتمثل في تقليل احتمالات تسرب البيانات الحساسة بشكل غير مقصود نتيجة استغلال النماذج الذكية عبر أوامر وتعليمات مخفية.
موجهة للمؤسسات والبيئات عالية الحساسية
وأكدت OpenAI أن الميزة الجديدة ليست مخصصة لجميع المستخدمين، بل تستهدف بشكل أساسي المؤسسات والأفراد الذين يتعاملون مع معلومات وبيانات عالية الحساسية، ويحتاجون إلى مستويات إضافية من الحماية والضوابط الأمنية للحد من مخاطر تسرب المعلومات.
وأشارت الشركة إلى أن طرح "Lockdown Mode" بدأ تدريجيًا لمشتركي خدمة ChatGPT Business ضمن فئة الخدمة الذاتية، بالإضافة إلى مجموعة محددة من الحسابات الشخصية المؤهلة للاستفادة من الميزة خلال المرحلة الحالية، على أن يتم التوسع في إتاحتها وفق خطط النشر المعتمدة.
