أطلقت شركة أنثروبيك ميزة أمان جديدة لنموذج الذكاء الاصطناعي كلود، تتيح له تقييم محادثاته بصورة تلقائية في الخلفية، لرصد أي إساءة محتملة للاستخدام وإحالتها إلى المراجعة البشرية، دون إظهار تنبيهات للمستخدم.
وتحمل الميزة اسم "التقييم الذاتي"، وتعمل عبر نماذج مختلفة، من بينها Claude Fable 5، منذ يونيو 2026.
وأوضحت أنثروبيك، في منشور على منصة إكس، أن التقنية الجديدة تدرب كلود على إجراء تقييم أولي لمستوى أمان المحادثة فور انتهاء كل إجابة يقدمها، وبما أن النظام يعتمد على تقدير النموذج نفسه بدلا من قائمة ثابتة من القواعد، فإنه يصبح أكثر دقة مع تطور نماذج الذكاء الاصطناعي، كما يستطيع رصد أنماط معقدة من إساءة الاستخدام لم تكن أنظمة الحماية السابقة مصممة لاكتشافها.
كيف يعمل التقييم الذاتي لكلود؟ عادة ما يقوم التفاعل مع نماذج الذكاء الاصطناعي على تبادل مباشر للأسئلة والإجابات، لكن ميزة التقييم الذاتي تضيف خطوة أخرى تتم بالكامل في الخلفية.
فبمجرد أن ينتهي كلود من صياغة إجابته، يضيف النظام تعليمات مخفية تطلب من النموذج مراجعة المحادثة وتقييمها.
وبعد ذلك، يصدر كلود تقييما داخليا موجزا يحدد ما إذا كان الطلب ضارا، وطبيعة الضرر المحتمل، ودرجة أولوية الحالة لمراجعتها من جانب فريق بشري.
وفي حال كانت المحادثة آمنة، يسجل النظام أنها لم تستدع أي تنبيه، ثم ينتقل إلى المحادثة التالية، دون مقاطعة المستخدم أو إظهار تحذيرات منبثقة.
وبما أن كلود يكون قد اطلع بالفعل على المحادثة، فإنه يستطيع الاستفادة من المعلومات المخزنة عنها، ما يجعل عملية التقييم الإضافية أقل استهلاكا للموارد.
دقة مرتفعة بتكلفة حوسبية محدودة تتطلب أنظمة فحص السلامة عادة قدرات حوسبية كبيرة، لكن أنثروبيك تقول إن طريقتها الجديدة أقل تكلفة بكثير، إذ تحتاج عملية التقييم إلى نحو 10 وحدات نصية إضافية فقط، ما يرفع إجمالي تكلفة الحوسبة بأقل من 2%.
وبالمقارنة، كانت أنظمة السلامة السابقة للشركة تضيف نحو 24% إلى التكاليف، بينما أفادت شركات منافسة مثل أوبن إيه آي بأن بعض ميزات السلامة تستهلك ما يصل إلى 16% من القدرة الحوسبية.
تاريخ النشر: السبت، 31 أكتوبر 2026 10:30 م