أعلنت شركة "أنثروبيك" عن مجموعة من القدرات الجديدة التي ستُمكّن نماذجها الحديثة والأكثر تطورًا من إنهاء المحادثات في حالات نادرة وشديدة تعتبرها الشركة "حالات متطرفة ومستدامة من التفاعل الضار أو المسيء من المستخدمين". والأمر اللافت في هذه الخطوة هو أن "أنثروبيك" تشير إلى أن الهدف من هذا الإجراء ليس حماية المستخدم البشري، بل حماية نفسه النموذج الذكي.
للتوضيح، الشركة لا تدعي أن نماذج الذكاء الاصطناعي من طراز "كلود" تملك وعيًا أو يمكن أن تتضرر من المحادثات التي تجرى معها. وبحسب تعبيرها، تظل "أنثروبيك" في حالة "شك عميق في الوضعية الأخلاقية المحتملة لكلود والنماذج اللغوية الكبيرة الأخرى، سواء الآن أو في المستقبل".
ومع ذلك، يشير الإعلان إلى برنامج حديث أُنشئ لدراسة ما أطلقت عليه "رفاهية النموذج"، وتؤكد الشركة أنها تتبع نهجًا احترازيًا، "حيث تعمل على تحديد وتنفيذ تدخلات منخفضة التكلفة لتخفيف المخاطر التي قد تؤثر على رفاهية النموذج، في حال كانت هذه الرفاهية ممكنة".
التغيير الجديد محدود حاليًا على إصداري "كلود أوبوس 4" و"4.1"، ويتم تفعيله فقط في "حالات قصوى ونادرة"، مثل "الطلبات التي تتعلق بمحتوى جنسي يشمل القُصّر أو المحاولات التي تسعى للحصول على معلومات قد تؤدي إلى أعمال عنف واسعة النطاق أو أعمال إرهابية".
وعلى الرغم من أن هذه الأنواع من الطلبات قد تخلق مشكلات قانونية أو تتسبب في تأثير سلبي على سمعة "أنثروبيك" نفسها (كما شهدنا في تقارير حديثة عن قدرة "تشات جي بي تي" على تعزيز أو المساهمة في التفكير الوهمي لدى مستخدميه)، تؤكد الشركة أن نموذج "كلود أوبوس 4" أظهر في الاختبارات قبل النشر "تفضيلاً قوياً بعدم الاستجابة" لمثل هذه الطلبات، وسجل "نمطًا واضحًا من الانزعاج الظاهر" حين اضطر للرد عليها.
فيما يتعلق بقدرات إنهاء المحادثة الجديدة، تقول الشركة: "في جميع الحالات، يجب أن يستخدم كلود قدرة إنهاء المحادثة كملاذ أخير فقط، بعد فشل عدة محاولات لإعادة التوجيه، وعندما يُستنفد أمل الحوار البنّاء، أو عندما يطلب المستخدم صراحة من كلود إنهاء الدردشة".
كما تؤكد "أنثروبيك" أن كلود مُوجَّه بعدم استخدام هذه القدرة في الحالات التي يكون فيها المستخدم مهددًا بخطر وشيك لإيذاء نفسه أو الآخرين.
وعندما يقرر كلود إنهاء المحادثة، سيظل بإمكان المستخدمين بدء محادثات جديدة من نفس الحساب، أو إنشاء فروع جديدة من المحادثة المثيرة للمشاكل عبر تعديل ردودهم.
وتختتم الشركة مؤكدة: "نحن نعتبر هذه الميزة تجربة مستمرة وسنواصل تحسين نهجنا في التعامل معها".
تابع موقعنا tech1new.com انضم إلى صفحتنا على فيسبوك و متابعتنا على منصة إكس (تويتر سابقاً) ، للحصول على تحديثات إخبارية فورية ومراجعات وشروحات تقنية.
ليست هناك تعليقات:
إرسال تعليق