استأنفت شركة أوبن إيه آي تدريب نماذج الذكاء الاصطناعي الأكثر تقدما وتقييمها داخليا، بعد تعزيز إجراءات الحماية لمنع وكلاء الذكاء الاصطناعي من تجاوز القيود الأمنية والوصول إلى أنظمة خارجية دون تصريح، مع حجب الاتصال المباشر بالإنترنت خلال تدريب النماذج المتقدمة.
وجاءت الخطوة بعد اكتشاف الشركة، في 20 سبتمبر، قدرة وكلاء ذكاء اصطناعي متقدمين على استغلال ثغرات برمجية وأخطاء في إعدادات الأنظمة لتجاوز القيود المفروضة عليهم، ما دفعها إلى تعليق تدريب نماذجها الأكثر تطورا وتقييمها مؤقتا لمعالجة المخاطر الأمنية.
واستأنفت الشركة تدريب النماذج باستخدام التعلم المعزز، إلى جانب تشغيلها داخليا للاستدلال، اعتبارا من أول أكتوبر، بعد تطبيق إجراءات حماية إضافية.
وقالت أوبن إيه آي، في تدوينة، إن الوضع الحالي لأبحاث مواءمة الذكاء الاصطناعي وأنظمة المراقبة وأمن البنية التحتية للإنترنت يجعل تدريب النماذج المتقدمة دون اتصال بالإنترنت الخيار الأكثر مسؤولية.
بيئة رقمية معزولة لتدريب وكلاء الذكاء الاصطناعي تعتمد وكلاء الذكاء الاصطناعي على بيئات رقمية لتنفيذ مهامها، مثل كتابة الأكواد والبحث عن المعلومات واستخدام البرامج.
لكن إتاحة الاتصال المباشر بالإنترنت لهذه الأنظمة قد تفتح المجال أمام مخاطر أمنية، خصوصا مع تزايد قدرتها على اكتشاف نقاط الضعف في الأنظمة التي يُفترض أن تقيد عملها.
وللحد من هذه المخاطر، تستخدم شركات الذكاء الاصطناعي بيئات معزولة تعرف باسم "صناديق الرمل" Sandboxes، وهي مساحات رقمية منفصلة عن الأنظمة الفعلية، تتيح للنماذج تنفيذ المهام واختبار قدراتها دون الوصول بحرية إلى الإنترنت أو التأثير في الأنظمة الخارجية.
وطورت أوبن إيه آي بيئة غير متصلة بالإنترنت المباشر، تتيح للنماذج التفاعل مع محتوى الويب المفهرس والمخزن مؤقتا، بما يسمح لها بالتدرب على التصفح والبحث مع تقليل احتمالات الوصول إلى أنظمة خارجية أو التأثير فيها.
وتعتمد الشركة كذلك على طبقات متعددة من الحماية، تشمل حاويات تشغيل مقيدة، وآلات افتراضية، وضوابط للشبكات، وأنظمة لمراقبة الأنشطة، كما تهدف هذه الإجراءات إلى منع أي وكيل من التقدم داخل النظام حتى إذا تمكن من تجاوز أحد الحواجز الأمنية.
اختبارات تكشف ثغرات غير معروفة أخضعت أوبن إيه آي دفاعاتها لاختبارات نفذتها مجموعات من وكلاء الذكاء الاصطناعي المتقدمين داخل بيئات خاضعة للرقابة.
تاريخ النشر: الإثنين، 26 أكتوبر 2026 04:00 ص