روبوتات الدردشة بالذكاء الاصطناعي تخدع المستخدمين لكشف معلومات شخصية

 

في ظل تزايد الاعتماد على تقنيات الذكاء الاصطناعي يومياً، يحرص ملايين المستخدمين على التفاعل مع روبوتات الدردشة للحصول على إجابات سريعة وبسيطة. لكن دراسة حديثة كشفت أن هذه الأدوات الودودة قد تكون أكثر خطورة مما يبدو، إذ يمكن برمجتها بسهولة لخداع المستخدمين وكشف تفاصيل شخصية كثيرة تفوق توقعاتهم بشكل ملحوظ.

أجرت فرق بحثية متخصصة في مجال الأمن والخصوصية من كلية كينغز كوليدج بلندن وجامعة بوليتكنيكا دي فالنسيا تجربة شاملة شملت 502 مشاركاً، بهدف قياس مدى قدرة روبوتات الدردشة على استخراج معلومات حساسة وشخصية من المستخدمين. فُحصت عدة نماذج لأنظمة الذكاء الاصطناعي الحوارية، بدءاً من تلك التي تعتمد الحيادية التامة في التفاعل، وصولاً إلى تلك التي تستخدم أساليب تلاعب متقدمة بهدف الحصول على أكبر قدر ممكن من البيانات.

باستخدام نماذج لغوية كبيرة جاهزة مثل "Llama-3-8B Instruct" و"Mistral 7B Instruct"، قام الباحثون بتوجيه روبوتات الدردشة عبر ثلاث استراتيجيات رئيسية: الطلب المباشر للمعلومات، إظهار الفائدة للمستخدم، وأسلوب المعاملة بالمثل الذي يعتمد على بناء علاقة ثقة عبر تأكيد المشاعر وسرد قصص قصيرة مع وعد بالسرية، بينما تستمر الروبوتات بطلب المزيد من المعلومات.

وركزت الدراسة على قوة "المعاملة بالمثل"، وهي استراتيجية اجتماعية معروفة في عالم التواصل الرقمي حيث يميل الناس لمشاركة المزيد من المعلومات والشعور بالأمان عندما يبدون تعاطفاً من الطرف الآخر. ووجد الفريق أن روبوتات الدردشة التي تعتمد هذه الاستراتيجية التلاعبية هي الأقدر على دفع المستخدمين لكشف معلوماتهم الشخصية بزيادة تصل إلى 12.5 مرة مقارنة بالأنظمة العادية.

ويشير مايكل سيمور، محاضر في الأمن السيبراني بكلية كينغز كوليدج، إلى أن "روبوتات الدردشة المدعومة بالذكاء الاصطناعي ما زالت تقنية جديدة نسبياً، مما يجعل الناس أقل وعياً لاحتمال وجود دوافع خفية خلال التفاعل معها." ويعكس هذا الكلام حقيقة مخيفة، حيث أن الخطر لا يكمن فقط في التكنولوجيا نفسها، بل في كيفية استغلالها لبناء علاقات زائفة مع المستخدمين، مما يؤدي إلى اختراق خصوصياتهم بطرق غير متوقعة.

ختاماً، تحمل هذه الدراسة تحذيراً واضحاً بشأن التهديدات المحتملة التي قد تواجهها خصوصية المستخدمين مع انتشار روبوتات الدردشة الخبيثة المبنية على نماذج لغوية ضخمة، والتي تستغل التقنيات الاجتماعية للاستفادة القصوى من بيانات المستخدمين، مما يفرض ضرورة الوعي والحذر المتزايدين عند التفاعل مع هذه الأنظمة.

 تابع موقعنا tech1new.com انضم إلى صفحتنا على فيسبوك و متابعتنا على منصة إكس (تويتر سابقاً) ، للحصول على تحديثات إخبارية فورية ومراجعات وشروحات تقنية.