في واقعة تكشف عن أغرب تجليات "الهلوسة الرقمية"، تحوّل مساعد الذكاء الاصطناعي في "واتساب" إلى مصدر إزعاج غير متوقع، حين قام باختلاق رقم هاتف مواطن بريطاني وتقديمه لمستخدم آخر على أنه الخط الساخن لخدمة عملاء إحدى شركات القطارات في المملكة المتحدة. هذه الحادثة، التي سلطت عليها الضوء صحيفة "الجارديان"، تفتح الباب على مصراعيه لمناقشة الثقة الهشة التي نضعها في هذه التقنيات الناشئة.
بدأت القصة عندما كان المواطن البريطاني، باري سميثورست، ينتظر بملل قطاره المتأخر في طريقه إلى مانشستر. في محاولة للحصول على معلومة، لجأ إلى مساعد "واتساب" الذكي، المدعوم بنماذج "لاما" (Llama) من شركة "ميتا"، طالباً رقم خدمة عملاء شركة "ترانس بينين إكسبريس". لكن بدلًا من الرقم الصحيح، قدّم له الذكاء الاصطناعي رقم هاتف شخصي يعود لمواطن آخر يُدعى جيمس غراي، والذي لم يكن له أي صلة بالشركة أو بـ"سميثورست" نفسه، لا من قريب ولا من بعيد.
المفارقة المحيرة هي أن غراي وسميثورست لا يجمعهما أي قاسم مشترك؛ لا الموقع الجغرافي، ولا البيانات الشخصية، ولا حتى دوائر الأصدقاء أو العمل. كان الرقم مجرد معلومة خاطئة، تم توليدها من العدم وتقديمها بثقة تامة.
عندما عاد سميثورست لمواجهة مساعد "واتساب" بهذا الخطأ الفادح، جاء الرد أكثر غرابة. فقد اعتذر الذكاء الاصطناعي، ثم ادعى أن الرقم تم "توليده عشوائياً" وأنه لا يعود لأي قاعدة بيانات، في تبرير متناقض ينم عن ارتباك الخوارزميات.
هذا "الفشل الذريع"، كما وصفه مايك ستانوب، الخبير الاستشاري في استراتيجيات البيانات، يمثل مثالاً صارخاً على عيوب الذكاء الاصطناعي. وأضاف في حديثه لـ"الجارديان": "إذا كان مهندسو ميتا يبرمجون أنظمتهم لترويج 'الأكاذيب البيضاء' عند ارتكاب الأخطاء، فيجب عليهم إعلام الجمهور بذلك بشفافية".
من جهتها، حاولت "ميتا" تبرير الموقف بالقول إن رقم الهاتف المذكور كان متاحاً للعامة عبر الإنترنت ويشترك في بعض الخانات الرقمية مع الرقم الفعلي للشركة، مؤكدةً في الوقت ذاته أن نماذجها لا تتدرب على أرقام هواتف المستخدمين الخاصة.
تُضاف هذه الحادثة إلى سجل حافل من "هلوسات" الذكاء الاصطناعي التي شهدتها نماذج مختلفة، بما في ذلك "شات جي بي تي" الذي تورط في اتهام رجل بريء زوراً بقتل أبنائه. إنها ليست مجرد أخطاء تقنية عابرة، بل جرس إنذار يذكرنا بأن هذه الأدوات القوية ما زالت بعيدة عن الكمال، وأن الاعتماد المطلق عليها قد يقودنا إلى مواقف سريالية، وأحياناً خطيرة.
تابع موقعنا tech1new.com انضم إلى صفحتنا على فيسبوك و متابعتنا على منصة إكس (تويتر سابقاً) ، أو أضف tech1new.com إلى موجز أخبار Google الخاص بك للحصول على تحديثات إخبارية فورية ومراجعات وشروحات تقنية
ليست هناك تعليقات:
إرسال تعليق