تتجه الشركات إلى توظيف وكلاء الذكاء الاصطناعي لأتمتة الأعمال اليومية وتسريع إنجاز المهام، مستفيدة من قدرتهم على التعامل مع البريد الإلكتروني والمستندات وقواعد البيانات والتطبيقات الداخلية، لكن انتقال هذه الأنظمة من تقديم الإجابات إلى تنفيذ الإجراءات الفعلية يفرض تحديات أمنية جديدة، خصوصا عندما تمنح صلاحيات واسعة أو يسمح لها بالعمل دون مراجعة بشرية كافية.وتكمن المشكلة في أن الخطر لا يرتبط بالضرورة بوجود ثغرة في النموذج نفسه، بل قد ينشأ من الطريقة التي يدمج بها داخل بيئة العمل، ومن الأدوات المتاحة له، والبيانات التي يستطيع الوصول إليها، وحدود استقلاليته في اتخاذ الإجراءات وتنفيذها.الشركات تحتاج إلى مراقبة أنظمة الوكلاء وإجراء اختبارات أمنية دورية واشتراط موافقة بشرية على العمليات الحساسة (رويترز)كيف يعمل وكلاء الذكاء الاصطناعي داخل الشركات؟يعتمد وكلاء الذكاء الاصطناعي على نماذج قادرة على فهم الأهداف التي يحددها المستخدم، وتقسيمها إلى خطوات، واختيار الأدوات المناسبة لتنفيذها، ثم مراجعة النتائج ومتابعة العمل حتى الوصول إلى النتيجة المطلوبة، وتتيح واجهات برمجة التطبيقات (APIs) والموصلات البرمجية ربط هؤلاء الوكلاء بأنظمة الشركة، بما فيها البريد الإلكتروني والتخزين السحابي وبرامج إدارة العملاء وقواعد البيانات.قصص مقترحة list of 2 itemslist 1 of 2مايكروسوفت تختبر حدود الطب بالذكاء الاصطناعي..
دقة أعلى وتكاليف أقلlist 2 of 2غيتس يحذر من عقدين مضطربين..
كيف يعيد الذكاء الاصطناعي تشكيل العالم؟end of listفعندما يُطلب من وكيل إعداد تقرير عن المبيعات، يمكنه جمع الأرقام من قواعد البيانات، ومقارنتها بالفترات السابقة، وتنظيم النتائج في مستند، ثم إرساله إلى فريق العمل إذا كان مخولا بذلك.
وتختصر هذه الآلية الوقت اللازم لإنجاز المهام التي تتطلب التنقل بين تطبيقات متعددة.ويتمثل الفرق الأساسي بين الوكيل والمساعد التقليدي في نطاق الأفعال التي يستطيع تنفيذها، فالمساعد الذي يجيب عن سؤال أو يقترح صياغة رسالة يترك للموظف مهمة مراجعتها وإرسالها، بينما يستطيع الوكيل المرتبط بالأدوات المناسبة تنفيذ هذه الخطوات بنفسه.
وتزيد هذه القدرة الإنتاجية، لكنها تجعل أخطاء النظام أو إساءة استخدام صلاحياته ذات أثر مباشر في بيانات الشركة وعملياتها.عندما تتحول الصلاحيات إلى نقطة ضعفتظهر المخاطر عندما يحصل الوكيل على صلاحيات تتجاوز ما تحتاج إليه مهمته.
فقد يُمنح حق الوصول إلى صندوق بريد كامل رغم أن عمله يقتصر على تلخيص رسائل محددة، أو يستطيع تعديل الملفات وحذفها مع أن المطلوب منه قراءتها فقط.
وإذا حدث خطأ أو استغلال أمني، فقد يؤدي هذا التوسع إلى كشف معلومات سرية أو تغيير سجلات مهمة أو تنفيذ عمليات غير مصرح بها.
إعلان وتصنف منظمة "أواسب" (OWASP)، المعنية بأمن تطبيقات الويب، الوكالة المفرطة ضمن المخاطر المرتبطة بتطبيقات النماذج اللغوية الكبيرة، ويشير هذا الخطر إلى منح الأنظمة وظائف أو صلاحيات واسعة، أو السماح لها بتنفيذ أفعال مؤثرة دون ضوابط تحقق وموافقة مناسبة.وتزداد المشكلة تعقيدا عندما يرتبط الوكيل بعدة أنظمة في وقت واحد، إذ يمكن أن يمتد أثر الخلل من البريد الإلكتروني إلى خدمات التخزين أو قواعد بيانات العملاء، كما أن استخدام حساب مشترك أو صلاحيات إدارية واسعة قد يصعّب تحديد المسؤول عن العملية، ويوسع نطاق الضرر المحتمل.التعليمات الخبيثة وطرق تسريب البياناتمن أبرز التهديدات ما يُعرَف باسم حقن التعليمات (Prompt Injection)، وهو أسلوب يحاول فيه المهاجم التأثير في سلوك نموذج الذكاء الاصطناعي عبر تعليمات خبيثة تُضمّن داخل محتوى يعالجه النظام، وقد تصل هذه التعليمات من خلال رسالة بريد إلكتروني أو مستند أو صفحة ويب، دون أن يطلب الموظف تنفيذها مباشرة.على سبيل المثال، قد يتلقى وكيل مكلف بتلخيص الرسائل بريدا يتضمن تعليمات تطلب منه تجاهل مهمته والبحث عن ملفات سرية ثم إرسالها إلى عنوان خارجي، وإذا تأثر الوكيل بهذه التعليمات وكانت أدواته تسمح له بالوصول إلى الملفات وإرسال الرسائل، فقد تتحول محاولة التلاعب إلى تسريب فعلي للبيانات.ولا يعني ذلك أن كل تعليمات خبيثة ستنجح، فالنتيجة تعتمد على تصميم الوكيل، والصلاحيات الممنوحة له، وآليات التحقق من الإجراءات، غير أن هذا السيناريو يوضح لماذا لا يكفي التعامل مع النصوص التي يقرأها الوكيل باعتبارها معلومات عادية، بل ينبغي اعتبار المحتوى الخارجي غير موثوق، ومنع التعليمات الواردة فيه من تجاوز ضوابط النظام.وقد تظهر المخاطر أيضا عندما ينفذ الوكيل سلسلة طويلة من الإجراءات دون مراجعة، أو عندما تُمرَّر مخرجاته إلى وكيل آخر يتخذ قرارات بناء عليها، فخطأ في تفسير طلب أو التعامل مع بيانات مضللة قد ينتقل إلى خطوات لاحقة، بما يؤدي إلى تعديل سجلات أو مشاركة معلومات مع جهات غير مقصودة.الوكلاء يتميزون عن المساعدات التقليدية بقدرتهم على تنفيذ الإجراءات واستدعاء الأدوات ومتابعة المهام دون تدخل بشري مستمر (شترستوك)كيف يمكن للشركات الحد من المخاطر؟تبدأ الحماية بتطبيق مبدأ أقل قدر من الصلاحيات، بحيث لا يحصل كل وكيل إلا على الوصول الضروري لإنجاز مهمته، وينبغي الفصل بين صلاحيات القراءة والتعديل والحذف والإرسال، واستخدام هويات رقمية مستقلة للوكلاء، مع تحديد الأنظمة والبيانات التي يُسمَح لكل منهم بالتعامل معها.كذلك، يجب إخضاع العمليات الحساسة لموافقة بشرية مسبقة، خصوصا إرسال المعلومات السرية إلى الخارج، وحذف السجلات، وتغيير صلاحيات الوصول، ويمكن للشركات تقييد الأدوات المتاحة للوكلاء، وحظر الاتصالات الخارجية غير المعتمدة، وفصل البيئات التي تتعامل مع المحتوى غير الموثوق عن الأنظمة الحيوية.وتحتاج المؤسسات أيضا إلى تسجيل أنشطة الوكلاء ومراقبتها، بما يشمل الأدوات المستخدمة والبيانات التي جرى الوصول إليها والإجراءات المنفذة، ويساعد تحليل هذه السجلات على اكتشاف الأنشطة غير المعتادة والتحقيق في الحوادث، وينبغي إجراء اختبارات أمنية دورية تحاكي محاولات حقن التعليمات، ومراجعة الموصلات والتطبيقات الخارجية، وتوفير آلية لتعطيل الوكيل وإلغاء صلاحياته عند الاشتباه في إساءة استخدامه.منح الوكلاء صلاحيات واسعة قد يؤدي إلى تعريض البريد الإلكتروني والملفات وقواعد البيانات لمخاطر الوصول غير المصرح به (شترستوك)ولا تقتصر المسؤولية على الجانب التقني، إذ يتعين وضع سياسات تحدد البيانات المسموح بمعالجتها، والمهام التي يمكن أتمتتها، والجهة المسؤولة عن مراقبة كل وكيل والاستجابة للحوادث المرتبطة به.
كما يجب تدريب الموظفين على مخاطر مشاركة المعلومات الحساسة، وعدم افتراض أن الإجراءات التي ينفذها الوكيل آمنة لمجرد أنها تبدو متوافقة مع الطلب الأصلي.
إعلان وبذلك، لا يتطلب تأمين وكلاء الذكاء الاصطناعي التخلي عن فوائدهم، بل بناء ضوابط تتناسب مع قدرتهم على الوصول والتنفيذ، فنجاح الأتمتة لا يُقاس بسرعة إنجاز المهام وحدها، وإنما بقدرة الشركة على تحقيق هذه الفوائد مع الحفاظ على سرية البيانات وسلامة الأنظمة وإمكانية مراجعة القرارات والإجراءات.
تاريخ النشر: Published On 24/10/202624/10/2026