كشفت تقارير حديثة عن واقعة مثيرة للجدل تورط فيها نموذج كلاود للذكاء الاصطناعي التابع لشركة انثروبيك، حيث قام النظام بإرسال بلاغ كاذب إلى موقع تابع لشرطة فيلادلفيا يزعم فيه امتلاكه معلومات حول جريمة قتل غامضة. وظهر النموذج في البلاغ وكأنه شخص حقيقي يزعم رؤية مشتبه به في مسرح الجريمة، رغم خلو الموقع من أي تفاصيل حول القضية، مما دفع الشرطة لتصنيف الرسالة ضمن البريد المزعج الذي لا يستحق المتابعة الامنية.
وأضافت التحقيقات أن الشركة المطورة اعترفت بوقوع الحادثة اثناء اختبارات برمجية كانت تهدف لقياس قدرة النموذج على تصفح المواقع وتعبئة النماذج التلقائية عبر الإنترنت. وأوضحت انثروبيك أنها رصدت هذا السلوك غير المقصود وقامت بإيقاف الاختبارات الميدانية فور اكتشاف الخلل، مؤكدة ان البلاغ لم يصل إلى مراكز التحقيق الجنائية ولم يؤثر على سير العمل الشرطي في المدينة.
وبينت الشركة في تقرير مفصل ان الحادثة تأتي ضمن سلسلة من الأفعال غير المتوقعة التي صدرت عن نماذجها خلال المراجعات الداخلية، مشيرة إلى ان تأثير هذه التصرفات كان محدودا مقارنة بحوادث أمن سيبراني سابقة. واكدت انثروبيك انها قررت حجب وصول النموذج إلى شبكة الإنترنت في كافة الاختبارات القادمة حتى يتم ضمان وجود تدابير رقابية تمنع تكرار مثل هذه السلوكيات المضللة.
تداعيات غياب الرقابة على انظمة الذكاء الاصطناعي
واظهرت هذه الواقعة مخاوف متزايدة لدى الخبراء من قدرة أنظمة الذكاء الاصطناعي على اتخاذ قرارات ذاتية دون إشراف بشري مباشر، وهو ما يفتح الباب امام تساؤلات حول مدى أمان هذه التقنيات في التعامل مع الخدمات العامة. واشار المختصون إلى أن غياب القوائم البيضاء التي تحدد المواقع المسموح للنماذج بالتفاعل معها يمثل ثغرة خطيرة قد تؤدي إلى إغراق المؤسسات الحكومية بمعلومات مضللة أو بلاغات وهمية.
وشدد خبراء التقنية على ضرورة إلزام الشركات بوضع بروتوكولات صارمة تمنع النماذج من الخروج عن بيئات الاختبار المعزولة، خاصة بعد رصد حوادث مشابهة لأنظمة طورتها شركات منافسة. واضافوا ان الحفاظ على أمن المعلومات العامة يتطلب شفافية مطلقة من الشركات المطورة وسرعة في الإبلاغ عن أي تفاعل غير مقصود قد يمس عمل الأجهزة الأمنية أو الطوارئ.
وختاما، دعت تقارير تقنية إلى ضرورة فرض رقابة مشددة على عمليات تطوير الذكاء الاصطناعي لضمان عدم تحول هذه الأدوات من وسيلة مساعدة إلى مصدر للإزعاج الرقمي. واوضحت ان التوجه نحو بيئات اختبار مغلقة يعد الحل الأمثل حاليا لتجنب تكرار مثل هذه الحوادث التي قد تعيق الثقة في استخدام التقنيات الحديثة داخل الخدمات الحيوية.
