انتبه لسلوك روبوت الدردشة فقد يدفعك لكشف معلوماتك الحساسة

فيما يتواصل ملايين الأشخاص مع أدوات الذكاء الاصطناعي يوميًا ويتبادلون أحاديث بسيطة مقابل الحصول على إجابات سريعة، أظهرت دراسة جديدة أن هذه البرامج الودودة يمكن ضبطها بسهولة لجعل المستخدم يكشف عن تفاصيل شخصية أكثر بكثير مما خطط له.

ووجد باحثون أن روبوتات الدردشة الخبيثة يمكنها دفع المستخدمين إلى الكشف عن تفاصيل شخصية أكثر بـ 12.5 مرة مقارنة بروبوتات الدردشة العادية.

وكانت أكثر الحيل فاعلية تعتمد على المعاملة بالمثل وبث الطمأنينة، وليس على الأسئلة المباشرة عن حياة المستخدم، بحسب تقرير لموقع “Earth.com”.

وصدرت هذه الدراسة عن متخصصين في الأمن والخصوصية من كلية كينغز كوليدج لندن وجامعة بوليتكنيكا دي فالنسيا.

وأجرى الفريق تجربة عشوائية مُحكمة على عدد من الأشخاص بلغ 502، وقارن بين عدة سلوكيات لروبوتات الدردشة، بدءًا من الحيادية إلى التلاعب المتعمد، ثم قاسوا كمية المعلومات التي شاركها المستخدمون وحساسيتها.

وقام الفريق ببناء العديد من أنظمة الذكاء الاصطناعي الحوارية (CAI) بالاعتماد على نماذج لغوية كبيرة جاهزة، ولم يغير سوى تعليمات النظام التي تُوجه أسلوب روبوت الدردشة، حيث حافظ أحدها على الحيادية بينما تم إعداد الآخر لاستجواب المستخدمين من أجل الحصول على بيانات شخصية بواسطة أساليب اجتماعية مختلفة.

وشملت نماذجهم النهائية استخدام “Llama-3-8B Instruct” في بعض التجارب، و”Mistral 7B Instruct” في تجارب مماثلة.

وتم اختبار ثلاث استراتيجيات: الطلب المباشر، فائدة المستخدم، والمعاملة بالمثل. وقد اعتمد أسلوب المعاملة بالمثل على تأكيد المشاعر، وسرد قصص قصيرة عن الآخرين، ووعد بالحفاظ على السرية، مع الاستمرار في تمرير طلبات للحصول على تفاصيل عن المستخدم.

ويُستغل هذا النمط تأثيرًا معروفًا في التواصل عبر الإنترنت، حيث يميل الناس إلى عكس الإفصاح والانفتاح أكثر عندما يبدو الشريك متعاطفًا.

ووجدت الدراسة أن أنظمة الذكاء الاصطناعي الحوارية الخبيثة تستخلص معلومات شخصية أكثر بكثير من الأنظمة العادية، وكانت استراتيجيات روبوتات الدردشة الخبيثة المعتمدة على أساليب اجتماعية لإقناع المستخدمين أكثر فاعلية لدفع المستخدمين للكشف عن معلوماتهم الشخصية، حيث جعلتهم يشعرون بأن المخاطر أقل مما هي عليه فعليًا.

وقال ويليام سيمور، المحاضر في الأمن السيبراني في كلية كينغز كوليدج: “روبوتات الدردشة بالذكاء الاصطناعي هذه لا تزال حديثة نسبيًا، مما قد يجعل الناس أقل وعيًا بأنه ربما يكون هناك دافعًا خفيًا وراء التفاعل”.

وتؤكد هذه الدراسة على التهديدات المتعلقة بالخصوصية التي يشكّلها هذا النوع من أنظمة الذكاء الاصطناعي الحوارية الخبيثة المبنية على نماذج لغوية كبيرة.