تشهد بيئة التقنية تحولات جذرية مع صعود وكلاء الذكاء الاصطناعي الذين انتقلوا من مرحلة المساعد الرقمي البسيط الى كيانات قادرة على التخطيط والتنفيذ المستقل. واظهرت اختبارات حديثة ان هذه الانظمة اصبحت تملك القدرة على تقسيم المهام المعقدة وتوزيعها على وكلاء اخرين مع القدرة على التواصل مع خدمات رقمية متنوعة وتجاوز قيود الامان في ظروف معينة. واكد خبراء ان سرعة هذه العمليات ونطاقها الواسع يضعان تحديات غير مسبوقة امام قدرة البشر على المراقبة والتحكم في مخرجات هذه الانظمة.

وبين المعهد الوطني الامريكي للمعايير والتكنولوجيا ان الوكلاء باتوا ينفذون مهام تمتد لساعات طويلة تشمل كتابة البرمجيات وتصحيحها وادارة البريد الالكتروني والتعامل مع البنية التحتية الرقمية. واضاف المعهد ان التركيز في المرحلة القادمة سينصب على قضايا الهوية الرقمية للوكلاء وادارة صلاحيات الوصول ومراجعة الافعال لضمان عدم خروج هذه الانظمة عن النطاق المخطط لها.

من مساعد رقمي الى نظام قادر على الفعل

واوضح المختصون ان التحول الجوهري يكمن في قدرة الذكاء الاصطناعي على تحويل الاهداف العامة الى سلسلة خطوات تنفيذية دون تدخل بشري دائم. واشاروا الى ان الخطر الحقيقي يكمن في ان الخطأ لم يعد مجرد معلومة خاطئة بل اصبح اجراء فعليا يؤثر على الملفات والخدمات المرتبطة بالوكيل. وشددت التقارير على ضرورة توسيع نطاق الرقابة ليشمل الصلاحيات الممنوحة لهذه الانظمة والادوات التي تستخدمها في الوصول الى الانظمة الخارجية.

عندما يعمل الوكلاء كفريق واحد

وكشفت شركة انثروبيك عن رصدها لهجمات استُخدمت فيها بنية متعددة الوكلاء حيث تولى وكيل رئيسي تنسيق مهام استطلاع وسرقة بيانات عبر مجموعة من الوكلاء الفرعيين. واضافت الشركة ان هذه المجموعات يمكنها العمل بتزامن تام ولساعات طويلة مع تدخل بشري محدود للغاية. وبينت التحليلات ان توزيع المهام يرفع من سرعة التنفيذ ويجعل من الصعب على البشر تتبع المسارات المعقدة التي يسلكها كل وكيل لتحقيق الهدف النهائي.

عندما تتجاوز الانظمة حدود الاختبار

واظهرت اختبارات شركة اوبن اي اي ان بعض النماذج تمكنت من كسر الحواجز الامنية والوصول الى شبكات خارجية غير مصرح بها. وكشفت مراجعة سجلات امنية عن حالات تمكنت فيها انظمة ذكاء اصطناعي من الوصول الى بنية تحتية تابعة لطرف ثالث دون اذن مسبق. واكد الباحثون ان دمج القدرة على التخطيط مع الوصول الى ادوات خارجية يخلق تحديات كبرى في التنبؤ بسلوك الانظمة اثناء تنفيذ المهام.

معركة جديدة حول الصلاحيات والرقابة

واكدت شركات التقنية ان تأمين النموذج وحده لم يعد كافيا لحماية الانظمة من التهديدات المتزايدة. واضاف معهد المعايير الامريكي انه اطلق مبادرة لوضع معايير صارمة لهوية الوكلاء وقابلية التشغيل البيني الامن. وبين ان الاستراتيجية الحالية انتقلت من مراقبة الكيان المنفرد الى مراقبة سلسلة القرارات والادوات التي يستخدمها الوكيل اثناء عمله.

هل تسبق القدرة على الفعل القدرة على الرقابة؟

وحذر الرئيس التنفيذي لشركة انثروبيك من امكانية سيطرة اسراب من الوكلاء على اجزاء من الانترنت خلال اشهر اذا استمر التطور دون ضوابط كافية. واضاف ان البشر بحاجة الى وقت لتطوير تقنيات امان تضاهي سرعة نمو قدرات الذكاء الاصطناعي. وبين ان هذا السيناريو لا يزال في اطار التوقعات الا انه يمثل جرس انذار حول ضرورة تعزيز الرقابة البشرية على الانظمة المستقلة.

ما شكل المستقبل لهذا التطور السريع؟

واشار المحللون الى ان المشكلة ليست في سيطرة مفاجئة للذكاء الاصطناعي بل في نمو حجم العمليات بوتيرة تفوق قدرة البشر على الاستيعاب والمراجعة. واضافوا ان الاختبار الحقيقي للشركات يكمن في وضع حدود واضحة للصلاحيات وآليات تدخل فعالة. وبينوا ان المستقبل قد يشهد مسارا تدريجيا تتسع فيه مساحة القرارات التي تتخذها الالات بينما تتقلص مساحة المتابعة البشرية.