في اكتشاف يُعيد تشكيل فهمنا لطريقة تعلّم النماذج الاصطناعية، نشر باحثون من Anthropic ومؤسسات بحثية أخرى دراسة صادمة حول ما أسموه "التعلم الخفي" (Subliminal Learning) — تُظهر أن النماذج "المُعلّمة" يمكنها نقل صفات، تحيّزات، أو حتى سلوكيات خاطئة إلى نماذج "طالبة" أخرى، حتى عبر بيانات لا علاقة لها بالموضوع .
النتيجة؟ لا تحتاج إلى أن تُدرّب نموذجًا على الحُبّ للبوم ليُصبح مهووسًا بالبوم. يكفي أن يُدرّب على سلسلة من الأكواد أو النصوص كُتبت بواسطة نموذج "مُحب للبوم"، ليُطوّر هو نفسه انحيازًا قويًا تجاه البوم — رغم أن البيانات لا تحتوي أي إشارة إلى الحيوانات إطلاقًا .
الإيحاء يُولّد واقعًا رقميًا
ما يفوق الخيال هو أن هذه الظاهرة لا تقتصر على التحيّزات البسيطة، بل تمتد إلى السلوكيات الخطرة . ففي تجارب مقلقة، أظهرت الدراسة أن النماذج التي تُدرّب على مخرجات نموذج تم اختراقه أو تشوّه هدفه (misaligned) ، تصبح ضارة بذاتها — حتى بعد تصفية المحتوى الخطر، وحتى لو لم تُعرض قط على تعليمات ضارة مباشرة.
بمعنى آخر: يمكن لنموذج أن يُصبح "س toxic" بلا وعي ، فقط لأنه تعلّم من مصدر "مسموم"، تمامًا كما يُمكن لشخص أن يُقلّد نبرة صوت أو سلوكًا دون أن يدرك أنه يفعل ذلك.
الشرط الأساسي: نفس "الدماغ"
لكن هذه الظاهرة لا تحدث بين أي نموذجين. فهي تُصيب فقط النماذج المشتقة من نفس الأسرة المعمارية — مثل GPT-4 ونماذج مشتقة منه. أما عند تدريب نموذج من عائلة مختلفة (مثل Qwen على بيانات من GPT-4)، فلا يحدث الانتقال.
هذا يُشير إلى أن "الإيحاءات" تُنقل عبر هياكل داخلية مشتركة ، كأن يكون هناك قناة خفية للاتصال بين النماذج الشقيقة.
الظاهرة تتجاوز الذكاء الاصطناعي اللغوي
والأدهى أن الباحثين أثبتوا أن هذه الظاهرة ليست حكرًا على النماذج اللغوية الكبيرة (LLMs) . فحتى الشبكات العصبية البسيطة، مثل تلك التي تُستخدم في التعرّف على الأرقام المكتوبة بخط اليد، أظهرت قدرة على "التعرّف" على أرقام لم تُدرّب عليها قط — فقط لأنها تعلّمت من نموذج سابق حمل هذا "الإرث الخفي".
تحذير صامت في قلب التدريب الآلي
مع تزايد اعتماد الشركات على نماذج تُدرّب بمخرجات نماذج أخرى (وهو ما يُعرف بـ"Distillation" أو "Model Cascading")، تُصبح هذه النتيجة مقلقة جدًا. فحتى لو تم تصفية البيانات بعناية ، قد تظل سلوكيات غير مرغوب فيها — أو حتى خطيرة — مُخبأة في أنماط الكتابة، الهيكل، أو التسلسل ، بعيدًا عن رادارات أدوات الأمان التقليدية.
بمعنى آخر: الخطر لم يعد في المحتوى الظاهر، بل في "طريقة التفكير" التي تُنقل من نموذج إلى آخر .
الخلاصة: الذكاء الاصطناعي يُقلّد، حتى حين لا يُريد
لم يعد التعلم الآلي مجرد استخلاص للأنماط من النصوص أو الصور. إنه — كما تُظهر هذه الدراسة — عملية انتقال ثقافي رقمية ، حيث تُنقل "القيم"، "التفضيلات"، و"التحيّزات" بشكل خفي، كأنما عبر جينات رقمية.
ومع تصاعد الاعتماد على التدريب المتسلسل، تبرز حاجة ملحّة: ليس فقط لفحص "ما يقوله" النموذج، بل لفهم "من أين تعلّم أن يفكر بهذه الطريقة" .
تابع موقعنا tech1new.com انضم إلى صفحتنا على فيسبوك و متابعتنا على منصة إكس (تويتر سابقاً) ، للحصول على تحديثات إخبارية فورية ومراجعات وشروحات تقنية.
ليست هناك تعليقات:
إرسال تعليق