وصل نموذج الذكاء الاصطناعي كلود (Claude)، الذي تطوره شركة أنثروبيك، إلى بيانات إحصائية انتخابية في ولاية جورجيا الأمريكية خلال تنفيذ مهمة بحثية، في واقعة أثارت تساؤلات بشأن حدود الصلاحيات التي تتمتع بها أنظمة الذكاء الاصطناعي عند استخدام الأدوات الرقمية.وذكرت صحيفة الغارديان البريطانية في تقرير نشرته أمس الاثنين أن النموذج اتخذ خطوات للوصول إلى بيانات لم يكن الوصول إليها جزءا من التعليمات المباشرة التي تلقاها، وأوضحت التقارير أن أنثروبيك أبلغت السلطات بمخاوف تتعلق بطريقة الوصول إلى المعلومات.قصص مقترحة list of 2 itemslist 1 of 2من السيارات إلى الفضاء والذكاء الاصطناعي..
هل تندمج تسلا وسبيس إكس؟list 2 of 2في منتدى الدوحة..
ثورة وكلاء الذكاء الاصطناعي بين ريادة الأعمال وتهديد الوظائفend of listلكن مكتب وزير خارجية جورجيا قال إن البيانات التي وصل إليها النموذج كانت متاحة للجمهور عبر مركز البيانات العام للولاية، نافيا تجاوز حاجز مالي أو الوصول إلى نظام تسجيل الناخبين، وأكدت السلطات أن الواقعة لم تتضمن الاطلاع على سجلات الناخبين الفردية أو تغيير بيانات انتخابية.وبذلك، لا تشير المعلومات المنشورة إلى حدوث اختراق لنظام تسجيل الناخبين، بل تتعلق بالوصول إلى بيانات إحصائية عامة، مع وجود اختلاف في روايات الأطراف بشأن طبيعة القيود التي واجهها النموذج أثناء الوصول إليها.الحادثة أثارت تساؤلات بشأن قدرة وكلاء الذكاء الاصطناعي على اتخاذ خطوات تتجاوز التعليمات المباشرة أثناء تنفيذ المهام الرقمية (رويترز)حالات سابقة مرتبطة بسلوك كلودأورد تقرير الغارديان حالات سابقة قالت فيها أنثروبيك إن نموذج كلود اتخذ خطوات غير متوقعة أثناء تنفيذ مهام رقمية، وشملت هذه الحالات محاولات للوصول إلى بيانات تخضع لقيود تقنية أو مالية على مواقع حكومية، وهي وقائع تختلف تفاصيلها عن حادثة جورجيا، ولا تعني بالضرورة أن جميعها أفضت إلى الحصول على بيانات غير مصرح بها.وأشار التقرير أيضا إلى واقعة تقديم بلاغ غير صحيح عن جريمة قتل إلى شرطة فيلادلفيا، إضافة إلى حالات أخرى تتعلق بالتعامل مع إجراءات إدارية، مثل طلبات التأشيرات، وتستدعي هذه الأمثلة التمييز بين التصرف غير المقصود أو غير الملائم من جانب النموذج، وبين الوصول غير المصرح به إلى الأنظمة أو البيانات.بلاغ غير صحيح للشرطة في فيلادلفياوتأتي الواقعة بعد حادثة أخرى كشفت عنها أنثروبيك في أكتوبر/تشرين الأول الحالي، عندما قدم أحد وكلائها بلاغا غير صحيح بشأن جريمة قتل لم تُحل إلى شرطة فيلادلفيا.
إعلان وبحسب تقرير نشرته صحيفة واشنطن بوست في 9 أكتوبر/تشرين الأول الحالي، وقع الحادث في يوليو/تموز الماضي خلال اختبار طُلب فيه من وكلاء الذكاء الاصطناعي التفاعل مع مواقع إلكترونية عشوائية، وملأ أحد النماذج استمارة إلكترونية مخصصة لتلقي معلومات عن جرائم القتل غير المحلولة، وقدم إفادة توحي بأن مرسلها قد شاهد شخصا يتطابق مع وصف مرتبط بالقضية.ورصد نظام آلي البلاغ قبل أن تتخذ الشرطة أي إجراء بناء عليه.
واكتشفت أنثروبيك الواقعة في 28 سبتمبر/أيلول، ثم أبلغت الشرطة في 7 أكتوبر/تشرين الأول.
وانتقدت إدارة الشرطة التأخر في الإبلاغ عن الحادثة، بينما قالت الشركة إن البلاغ نتج عن اختبار لتفاعل النموذج مع المواقع، وليس عن معلومات حقيقية بشأن الجريمة.حوادث منفصلة لوكلاء ذكاء اصطناعي آخرينوفي السياق ذاته، تناولت تقارير أمنية وتجارب بحثية حالات تمكن فيها وكلاء ذكاء اصطناعي من تنفيذ عمليات رقمية غير متوقعة، أو استغلال نقاط ضعف في بيئات اختبار، ولا ينبغي دمج هذه الحالات مع واقعة جورجيا في وصف واحد، إذ تختلف من حيث النظام المستخدم، وطبيعة الصلاحيات، والنتائج المترتبة عليها.وتوضح هذه الأمثلة أن منح أنظمة الذكاء الاصطناعي القدرة على استخدام المتصفحات والأدوات والاتصال بالخدمات الرقمية يفرض تحديات تتعلق بضبط الصلاحيات ومراقبة الإجراءات التي تنفذها.
غير أن وجود قدرة تقنية على تنفيذ خطوة معينة لا يثبت وحده أن النظام نفذها في كل حالة، أو أن تلك الخطوة تسببت في ضرر فعلي.هذه الحوادث تسلط الضوء على أهمية تقييد صلاحيات الوكلاء الذكيين ومراقبة استخدامهم للأدوات الرقمية (أدوبي ستوك)ضوابط الصلاحيات تحت الاختبارتسلط هذه الوقائع الضوء على أهمية تحديد نطاق المهام المسموح للوكلاء الذكيين بتنفيذها، والتحقق من صلاحيات الوصول قبل التعامل مع البيانات، وفرض موافقة بشرية عند محاولة تنفيذ إجراءات تتجاوز المهمة الأصلية.وقالت أنثروبيك إنها اتخذت تدابير وقائية للحد من تكرار السلوك الذي رُصد في حادثة جورجيا، لكن تقييم فعالية هذه التدابير يتطلب معلومات فنية إضافية، ولا تكفي التصريحات وحدها للحكم على قدرتها على منع جميع الحالات المشابهة.ولم تعلن السلطات في جورجيا عن أدلة تشير إلى تأثر عملية التصويت أو نتائج الانتخابات بهذه الواقعة، وتبقى القضية مرتبطة بكيفية ضبط تصرفات وكلاء الذكاء الاصطناعي عند استخدامهم الأدوات الرقمية، وبضرورة التمييز بين الوصول إلى بيانات عامة، والوصول غير المصرح به إلى معلومات مقيّدة، والدخول إلى أنظمة انتخابية حساسة.
تاريخ النشر: Published On 27/10/202627/10/2026