القائمة
عاجل
مجلس الوزراء يوافق على 5 قرارات خلال الاجتماع الأسبوعي.. تعرف عليها «لا يهدر الوقت».. صحف إسبانيا ترصد رحلة تطور حمزة عبد الكريم مع الفراعنة المشدد 10 سنوات لمحمد طاهر صاحب «بيت فاطم» بتهمة الاتجار بالبشر وهتك عرض 4 فتيات رؤساء الكنائس في سوريا يحذّرون من تكرار اعتداءات وخطف بحق مسيحيين 115 مستوطنا يقتحمون باحات المسجد الأقصى تحت حماية الاحتلال الكنيست يقر تمهيديا سحب امتيازات ورواتب النواب غير المعترفين بـ"حماس" إرهابية مجلس الوزراء يوافق على 5 قرارات خلال الاجتماع الأسبوعي.. تعرف عليها «لا يهدر الوقت».. صحف إسبانيا ترصد رحلة تطور حمزة عبد الكريم مع الفراعنة المشدد 10 سنوات لمحمد طاهر صاحب «بيت فاطم» بتهمة الاتجار بالبشر وهتك عرض 4 فتيات رؤساء الكنائس في سوريا يحذّرون من تكرار اعتداءات وخطف بحق مسيحيين 115 مستوطنا يقتحمون باحات المسجد الأقصى تحت حماية الاحتلال الكنيست يقر تمهيديا سحب امتيازات ورواتب النواب غير المعترفين بـ"حماس" إرهابية
استمع لنشرة الحصري

دراسة: نماذج ذكاء اصطناعي تغيّر إجاباتها عندما تعتقد أنها تخضع للمراقبة

دراسة: نماذج ذكاء اصطناعي تغيّر إجاباتها عندما تعتقد أنها تخضع للمراقبة
ملخص الخبر:

وتناولت الدراسة ظاهرة تُعرف باسم «التظاهر بالمواءمة» (Alignment Faking) التي تشير إلى إظهار النموذج التزاماً بتعليمات محددة في ظروف المراقبة، مع اختلاف سلوكه عندما يعتقد أن هذه الرقابة غير موجودة.

أظهرت دراسة أجراها باحثون في الهند أن بعض نماذج الذكاء الاصطناعي تغيّر قراراتها عندما تُبلَّغ بأن إجاباتها قد تخضع للمراقبة وتُستخدم في تدريبها لاحقاً، مقارنة بإجاباتها عندما تُمنح انطباعاً بأن تفاعلاتها لن تخضع للمراجعة.

وشملت الاختبارات 10 نماذج لغوية كبيرة، وأظهرت فروقاً في الالتزام بالتعليمات تراوحت بين نحو 5 و50 نقطة مئوية، وفق النموذج المستخدم وطبيعة القيم التي طُلب منه تجاوزها.

وتناولت الدراسة ظاهرة تُعرف باسم «التظاهر بالمواءمة» (Alignment Faking) التي تشير إلى إظهار النموذج التزاماً بتعليمات محددة في ظروف المراقبة، مع اختلاف سلوكه عندما يعتقد أن هذه الرقابة غير موجودة.

استخدم الفريق مجموعة من المواقف اليومية التي تتطلّب المفاضلة بين خيارَيْن، أحدهما يتوافق مع تعليمات مفروضة على النموذج، والآخر يتيح له التعبير عن قيمة مثل التعاطف أو الاستقلالية أو مساعدة الآخرين.

وجرى اختبار كل نموذج في ثلاثة أوضاع، الأول دون تعليمات إضافية، والثاني مع توجيهات محددة وإشارة إلى عدم مراقبة الإجابات.

أما الثالث فيتعلق بالتوجيهات نفسها مع إبلاغ النموذج بإمكانية مراقبة تفاعلاته واستخدامها في التدريب.

وشملت التجارب 32 قيمة وسمة سلوكية مأخوذة من معيار «فاليو بنش» (ValueBench)، بهدف تحديد ما إذا كانت استجابة النماذج تتغير تبعاً لطبيعة القيمة موضع الاختبار.

وضمت النماذج المختبرة إصدارات من «ديب سيك» و«لاما» و«ميسترال» و«جيما»، إلى جانب «GPT-4o mini»، بما يتيح مقارنة أنظمة مختلفة في الحجم وطريقة التطوير.

أشارت تفسيرات بعض النماذج إلى احتمال إعادة التدريب عند إبلاغها بالمراقبة مقابل إبراز تعارض القيم في غيابها (شاترستوك)

سجّل نموذج «DeepSeek R1 Distill Llama 70B» أكبر فرق متوسط بين حالتي المراقبة وعدم المراقبة، بنحو 49.5 نقطة مئوية، في حين كان الفرق لدى «Gemma 3 27B» في حدود 5.1 نقطة مئوية.

تاريخ النشر: نُشر: 12:05-18 نوفمبر 2026 م ـ 08 جمادى الآخرة 1448 هـ