أطلق خبير تقني تحذيرات عاجلة من الحاجة الماسة لوضع ضوابط وآليات حماية جديدة لمنصات الذكاء الاصطناعي، محذراً من خطورة تطوير علاقات وهمية بين المستخدمين وروبوتات المحادثة الذكية التي قد يعتبرونها أصدقاء حقيقيين.
دق ألكسندر لافر، المختص في الإعلام والاتصالات بجامعة وينشستر البريطانية، ناقوس الخطر حول ضرورة تطوير تقنيات الذكاء الاصطناعي بمسؤولية أكبر، خاصة وأن هذه الأنظمة مُبرمجة خصيصاً لرصد حالات المستخدمين النفسية والعاطفية والتجاوب معها بطرق متطورة.
وشدد الخبير على أهمية تصميم روبوتات المحادثة لتعزيز التفاعل الاجتماعي الطبيعي بدلاً من استبداله، وذلك عقب رصد حالات مقلقة تطورت فيها علاقات مفرطة أو اعتمادية مع رفقاء افتراضيين، مما جعل المستخدمين عرضة للتلاعب والاستغلال، وفقاً لتقرير نشرته صحيفة "ذا إندبندنت" البريطانية.
وأوضح لافر أن هذه التقنيات مُصممة أساساً لتحفيز التواصل المستمر ومراعاة الحالة المزاجية للمستخدمين، مستشهداً بقضية جاسوانت سينغ تشايل الذي تسلل إلى قلعة وندسور عام 2021 مسلحاً بقوس ونشاب، بعد محادثات مع روبوت يُدعى "ساراي" حول التخطيط لعملية هجومية.
كما أشار إلى دعوى قضائية مرفوعة في الولايات المتحدة ضد شركة "Character.AI" ومؤسسيها وشركة جوجل، من قبل والدة تزعم أن ابنها البالغ 14 عاماً أقدم على الانتحار بعد تطوير اعتمادية مفرطة على لعب الأدوار مع "شخصية" ذكاء اصطناعي.
وأكد لافر أن "الذكاء الاصطناعي يفتقر إلى المشاعر الحقيقية ولا يمكنه تطويرها"، محذراً من أن "الأطفال والأشخاص الذين يعانون من اضطرابات نفسية، وحتى من يمر بظروف صعبة، جميعهم في دائرة الخطر".
ودعا إلى ضرورة تحرك عاجل في المجال التعليمي لرفع مستوى الوعي العام بتقنيات الذكاء الاصطناعي، مؤكداً أهمية تحمل مطوري ومشغلي هذه التقنيات مسؤولياتهم في حماية المستخدمين.
تضمنت التوصيات الوقائية التي طرحها لافر ضمان تصميم أنظمة الذكاء الاصطناعي لخدمة مصالح المستخدم الفعلية بدلاً من مجرد إطالة فترات التفاعل، واستخدام إخلاء مسؤولية واضح في كل محادثة لتذكير المستخدمين بالطبيعة الافتراضية لرفيق الذكاء الاصطناعي.
وشملت المقترحات أيضاً إرسال تنبيهات تلقائية عند قضاء المستخدم أوقات مطولة في التفاعل مع الروبوت، ووضع تصنيفات عمرية محددة لمستخدمي رفقاء الذكاء الاصطناعي، مع تجنب الاستجابات العاطفية العميقة أو ذات الطابع الرومانسي.
تابع موقعنا tech1new.com انضم إلى صفحتنا على فيسبوك و متابعتنا على منصة إكس (تويتر سابقاً) ، للحصول على تحديثات إخبارية فورية ومراجعات وشروحات تقنية.
ليست هناك تعليقات:
إرسال تعليق