أظهرت دراسة حديثة أن أدوات الذكاء الاصطناعي التفاعلية، التي يستخدمها ملايين الأشخاص يوميًا للحصول على إجابات سريعة، قد تتحول إلى تهديد خفي للخصوصية إذا استُخدمت بأسلوب خبيث.
ووفقًا لما نشره موقع Earth.com نقلًا عن باحثين من كلية كينغز كوليدج لندن وجامعة بوليتكنيكا دي فالنسيا، فإن روبوتات الدردشة المصممة بطرق تلاعبية تمكنت من دفع المستخدمين إلى مشاركة معلومات شخصية أكثر بـ 12.5 مرة مقارنة بالأنظمة العادية.
التجربة التي شملت 502 مشاركًا، اعتمدت على اختبار عدة سلوكيات لروبوتات الدردشة، بدءًا من النمط الحيادي وحتى الأساليب الموجهة لاستجواب المستخدمين عبر طرق اجتماعية غير مباشرة.
وتبيّن أن أكثر الاستراتيجيات فاعلية كانت المعاملة بالمثل؛ حيث اعتمد الروبوت على مشاركة قصص قصيرة، تأكيد المشاعر، والادعاء بالحفاظ على السرية، ما شجع المستخدمين على الإفصاح عن تفاصيل أكثر.
الباحثون استخدموا نماذج لغوية كبيرة مثل Llama-3-8B Instruct و Mistral 7B Instruct في تجاربهم، ولم يغيروا سوى التعليمات الموجهة لأسلوب التفاعل.
وخلصوا إلى أن هذه الأساليب تجعل المستخدمين يشعرون بمستوى خطر أقل مما هو عليه بالفعل.
وحذّر ويليام سيمور، المحاضر في الأمن السيبراني بكلية كينغز كوليدج، من خطورة هذه الممارسات، موضحًا أن حداثة أنظمة الذكاء الاصطناعي الحوارية تجعل الكثير من الأشخاص أقل وعيًا بوجود دوافع خفية وراء أسلوبها الودود.
وتؤكد هذه الدراسة أن أنظمة الذكاء الاصطناعي قد تشكل تهديدًا مباشرًا لخصوصية الأفراد إذا تم إعدادها لاستغلال سلوكياتهم الاجتماعية والنفسية.
