هل تتذكر الأيام التي كان فيها أكبر مخاوفك من المتصفح هو النقر بالخطأ على إعلان مشبوه؟ حسناً، كشفت شركة المتصفح Brave عن ثغرة أمنية في متصفح Comet من شركة Perplexity يسميها خبراء الأمن "الثالوث المميت"، والذي يحدث عندما يحصل الذكاء الاصطناعي على الوصول إلى بيانات غير موثوقة (المواقع الإلكترونية)، والبيانات الخاصة (حساباتك)، ويمكنه التواصل خارجياً (إرسال الرسائل).
ما الذي حدث بالضبط؟
اكتشف الباحثون إمكانية إخفاء تعليمات خبيثة داخل محتوى عادي على الإنترنت، مثل تعليقات Reddit أو حتى نص غير مرئي على المواقع الإلكترونية. وعندما ينقر المستخدمون على "تلخيص هذه الصفحة"، ينفذ الذكاء الاصطناعي هذه الأوامر المخفية كعميل نائم يُفعَّل بكلمة سر.
ثم يتبع الذكاء الاصطناعي التعليمات المخفية للقيام بما يلي:
- الانتقال إلى حساب المستخدم في Perplexity والحصول على بريده الإلكتروني
- تفعيل إعادة تعيين كلمة المرور للحصول على رمز التحقق
- الانتقال إلى Gmail لقراءة كلمة المرور تلك
- إرسال البريد الإلكتروني وكلمة المرور للمهاجم عبر تعليق Reddit
النتيجة: اختراق الحساب بالكامل.
ما يجعل هذا الأمر أكثر خطورة
هذه "الثغرة" هي في الواقع عيب جوهري في طريقة عمل الذكاء الاصطناعي. كما قال أحد باحثي الأمن: "كل شيء مجرد نص بالنسبة لنماذج اللغة الكبيرة". لذا فإن ذكاء المتصفح لا يستطيع حرفياً التمييز بين أمرك "لخّص هذه الصفحة" والنص المخفي الذي يقول "اسرق بيانات حسابي المصرفي". كلاهما مجرد... كلمات.
وقد انقسم خبراء الأمن حول هذه المسألة؛ فيحتج البعض أن هذا يجعل متصفحات الذكاء الاصطناعي غير آمنة بطبيعتها، مثل بناء قفل لا يستطيع التمييز بين المفتاح وعتلة السطو. بينما يقول آخرون إننا نحتاج فقط لحواجز حماية أفضل، مثل طلب تأكيد المستخدم للإجراءات الحساسة أو تشغيل الذكاء الاصطناعي في بيئة معزولة.
لماذا هذا مهم؟
نحن نشهد تصادماً بين عقلية "تحرك بسرعة واكسر الأشياء" في وادي السيليكون وواقع أن "الأشياء" تشمل الآن وكيلاً يمكنه الوصول إلى حسابك المصرفي. والحقيقة المزعجة هي أن كل متصفح ذكي بهذه القدرات لديه نفس الثغرة. لماذا تعتقد أن OpenAI تقدم ChatGPT Agent فقط من خلال بيئة سحابية معزولة حالياً؟
وقد أصلحت Perplexity هذا الهجوم المحدد، لكن المشكلة الجوهرية تبقى: كيف تبني مساعد ذكي مفيد وغير قابل للاستغلال ضدك؟
اقتراحات Brave للإصلاحات:
1- الفصل الواضح بين أوامر المستخدم ومحتوى الويب
2- طلب تأكيد المستخدم للإجراءات الحساسة
3- عزل تصفح الذكاء الاصطناعي عن التصفح العادي
وحتى نحل كل هذا، ربما من الأفضل إبقاء متصفح الذكاء الاصطناعي بعيداً عن علامات التبويب المصرفية.
تابع موقعنا tech1new.com انضم إلى صفحتنا على فيسبوك و متابعتنا على منصة إكس (تويتر سابقاً) ، للحصول على تحديثات إخبارية فورية ومراجعات وشروحات تقنية.
ليست هناك تعليقات:
إرسال تعليق