كشفت تقارير صحفية حديثة أن شركة "ميتا بلاتفورمز" تدرس تحويل مهمة تقييم المخاطر المحتملة لمنتجاتها بشكل كبير من المراجعين البشريين إلى أنظمة الذكاء الاصطناعي.
ووفقًا لتقرير صادر عن الإذاعة الوطنية العامة (NPR)، تهدف "ميتا" إلى أن يتولى الذكاء الاصطناعي ما يصل إلى 90% من عمليات تقييم المخاطر. وتشير المعلومات إلى أن الشركة تنظر في استخدام مراجعات الذكاء الاصطناعي حتى في المجالات شديدة الحساسية، مثل تقييم المخاطر المتعلقة بالشباب ومفهوم "النزاهة"، الذي يشمل المحتوى العنيف، والمعلومات المضللة، وغيرها من القضايا الشائكة.
ماذا يعني هذا التوجه من "ميتا"؟
لطالما خضعت التحديثات والميزات الجديدة لمنصات "ميتا"، بما في ذلك "إنستغرام" و"واتساب"، لمراجعات بشرية دقيقة قبل طرحها للجمهور. إلا أن التقارير تشير إلى أن "ميتا" قد كثفت من اعتمادها على الذكاء الاصطناعي بشكل ملحوظ خلال الشهرين الماضيين.
ويهدف هذا النهج المتمحور حول الذكاء الاصطناعي إلى تمكين "ميتا" من تسريع وتيرة تحديث منتجاتها وإطلاق الميزات الجديدة. ومع ذلك، حذر مسؤول تنفيذي سابق في الشركة، لم يُكشف عن هويته، من أن هذا التحول قد يؤدي إلى "مخاطر أعلى"، موضحًا أن "التداعيات السلبية المحتملة لتغييرات المنتج قد لا يتم اكتشافها أو منعها قبل أن تبدأ في إحداث مشكلات على نطاق واسع."
وفي ردها على هذه التقارير، صرحت "ميتا" لـ NPR بأنها ستواصل الاعتماد على "الخبرة البشرية" لتقييم "القضايا المستجدة والمعقدة"، بينما ستُسند "القرارات منخفضة المخاطر" إلى أنظمة الذكاء الاصطناعي.
وقال متحدث باسم الشركة: "مع تطور المخاطر ونضوج برامجنا، نعمل باستمرار على تعزيز عملياتنا لتحديد المخاطر بشكل أفضل، وتبسيط عملية صنع القرار، وتحسين تجربة المستخدمين." وأضاف: "نحن نستفيد من التكنولوجيا لضمان الاتساق والقدرة على التنبؤ في القرارات منخفضة المخاطر، بينما نعتمد على الخبرة البشرية لإجراء تقييمات صارمة والإشراف على القضايا المستجدة أو المعقدة."
يأتي هذا التطور بعد أيام قليلة من إصدار "ميتا" لأحدث تقاريرها ربع السنوية حول النزاهة، وهو التقرير الأول منذ إدخال تغييرات على سياساتها المتعلقة بالإشراف على المحتوى والتحقق من الحقائق. ويثير هذا التوجه تساؤلات حول التوازن بين سرعة الابتكار وضمان سلامة المستخدمين في الفضاء الرقمي.
تابع موقعنا tech1new.com انضم إلى صفحتنا على فيسبوك و متابعتنا على منصة إكس (تويتر سابقاً) ، أو أضف tech1new.com إلى موجز أخبار Google الخاص بك للحصول على تحديثات إخبارية فورية ومراجعات وشروحات تقنية
ليست هناك تعليقات:
إرسال تعليق