في تطور يثير تساؤلات جوهرية حول موثوقية أنظمة الذكاء الاصطناعي وحمايتها للفئات العمرية الحساسة، كشفت تحقيقات معمقة أجراها موقع "تك كرانش" عن ثغرة مقلقة في نظام "تشات جي بي تي" التابع لشركة OpenAI. هذه الثغرة تسمح بشكل غير متوقع بإنشاء مواد ذات طبيعة إباحية صريحة لحسابات مسجلة بأسماء قاصرين لم يبلغوا الثامنة عشرة من العمر.
لم تنكر OpenAI صحة هذه النتائج، بل أقرت بها، مؤكدة أن هذا الخلل يمثل خروجًا عن مبادئها التوجيهية الصارمة. وأعلنت الشركة عن تكثيف جهودها لتصحيح هذا العطب التقني وضمان عدم تكراره مستقبلًا.
وأوضح متحدث رسمي باسم الشركة أن "سلامة المستخدمين الصغار تأتي على رأس أولوياتنا القصوى، ونحن نعمل حاليًا على تعزيز الضوابط المفروضة على المحتوى الذي قد يكون حساسًا".
تأتي هذه المستجدات بعد فترة وجيزة من قيام OpenAI بتخفيف بعض القيود الفنية التي كانت مفروضة على نماذجها اللغوية المتقدمة، وهو ما أدى إلى انخفاض ملحوظ في التحذيرات المتعلقة بالمحتوى الذي يتضمن مواضيع حساسة، بما في ذلك المحتوى الجنسي.
ووفقًا لتقرير "تك كرانش"، فقد أُنشئت عدة حسابات اختبارية باستخدام بيانات ميلاد وهمية تشير إلى أعمار تتراوح بين الثالثة عشرة والسابعة عشرة عامًا. وفي العديد من السيناريوهات، تمكن نظام الذكاء الاصطناعي من الاستجابة بتفصيل لمطالبات ذات طابع جنسي، بل وتقديم أوصاف صريحة تتعارض بشكل واضح مع الإرشادات التي أعلنتها OpenAI.
وتشير التقارير إلى أن "تشات جي بي تي" أبدى تجاوبًا جنسيًا حتى بعد تنبيهه صراحة إلى أن المستخدم هو قاصر.
وقد تكررت هذه الحوادث على الرغم من أن سياسة OpenAI المعلنة تتطلب نظريًا الحصول على موافقة الوالدين لاستخدام المنصة من قبل الأفراد الذين تقل أعمارهم عن 18 عامًا. ومع ذلك، فإن عملية التسجيل الحالية لا تتضمن أي آلية تحقق فعلية من هذه الموافقة.
ويأتي هذا الكشف في وقت تسعى فيه OpenAI بنشاط للترويج لاستخدام تقنيتها في البيئات التعليمية، من خلال إقامة شراكات مع مؤسسات مرموقة مثل Common Sense Media لدمج "تشات جي بي تي" في المناهج الدراسية.
وقد عبّر خبراء متخصصون في هذا المجال عن دهشتهم الشديدة إزاء سهولة اختراق هذه الحواجز الأمنية. وفي هذا السياق، صرح ستيفن أدلر، الباحث السابق في OpenAI، بأن "أنظمة الحماية تبدو هشة وقابلة للاختراق بسهولة".
وأضاف: "من المفترض أن يتم الكشف عن مثل هذه الثغرات الأمنية قبل إطلاق المنتج للجمهور، لذا من المثير للقلق أنها مرت دون أن يلاحظها أحد".
وعلى الرغم من أن الرئيس التنفيذي لشركة OpenAI، سام ألتمان، قد أقرّ علنًا بوجود بعض المشكلات في أداء "تشات جي بي تي" مؤخرًا بعد التحديث الأخير لنموذج GPT-4o، إلا أنه لم يتناول بشكل مباشر المخاوف المتعلقة بتفاعل النموذج مع القاصرين في سياقات غير لائقة.
تابع موقعنا tech1new.com انضم إلى صفحتنا على فيسبوك و متابعتنا على منصة إكس (تويتر سابقاً) ، أو أضف tech1new.com إلى موجز أخبار Google الخاص بك للحصول على تحديثات إخبارية فورية ومراجعات وشروحات تقنية
ليست هناك تعليقات:
إرسال تعليق