حظيت أنظمة الذكاء الاصطناعى خلال الفترة الماضية باهتمام واسع باعتبارها الموجة التقنية الجديدة، خاصة بعد تراجع الحماس المرتبط بالذكاء الاصطناعى التوليدى وعدم تحقيقه للعوائد التى كانت متوقعة.
وبحسب بعض التقديرات، فإن نحو 79% من المديرين التنفيذيين فى الشركات الأمريكية يعملون حاليا على تطوير نوع من أنواع وكلاء الذكاء الاصطناعى داخل مؤسساتهم، ومع ذلك، أشارت توقعات صادرة عن شركة غارتنر إلى أن 40% من هذه المشاريع قد تنهار بسبب ضعف ضوابط المخاطر.
تواجه الشركات مخاوف متزايدة من قدرة أنظمة الذكاء الاصطناعى على التسبب بأضرار كبيرة عند تكليفها بمهام شديدة الحساسية والأهمية.
ومن بين الأمثلة التى جرى تداولها، ما ذكرته مهندسة استشارات الشبكات سايالى باتيل عبر موقع VentureBeat، حول أنظمة ذكاء اصطناعى صممت لمعالجة بطء اتصالات الشبكة بشكل تلقائى عند اكتشاف الأعطال.
ورغم أن هذه المهمة تبدو مناسبة للأتمتة، مثل إعادة تشغيل جهاز التوجيه عند تعطل شبكة الواى فاى، فإن بعض هذه الأنظمة اتخذت قرارات كارثية، من بينها إيقاف تشغيل خادم رئيسى فى وقت كانت فيه 3 خدمات أخرى تعتمد عليه للتعامل مع حركة مرور إنترنت كثيفة.
تصفح أيضًا: تأكيد بيع تيك توك فى الولايات المتحدة وتسليم الإدارة لتحالف بقيادة أوراكل 2026
عندما قامت الأنظمة الذكية بإعادة تشغيل الخادم تلقائيا، تسبب ذلك فى أضرار واسعة للخدمات المرتبطة به، وتحول التباطؤ البسيط إلى اضطراب أكبر وأكثر خطورة.
وأوضحت باتيل أن هذه الأنظمة لم تكن تمتلك صورة كاملة عن جميع التأثيرات المترتبة على القرار الذى اتخذته، مشيرة إلى أن البرنامج لم يصمم للتعامل مع هذا النوع المعقد من تسلسل الأحداث.
وأضافت أن نطاق التأثير لم يقتصر على إعادة تشغيل الخدمة فقط، بل امتد إلى كل الأنظمة والخدمات المرتبطة بها، فى ظل غياب فهم شامل لطبيعة النظام بالكامل.
ورغم محاولات المهندسين توقع المخاطر المحتملة، فإن أنظمة الذكاء الاصطناعى لا تزال تعانى من ثغرات أمنية خطيرة.
وكشفت اختبارات الضغط التى أجريت على بعض الأنظمة المزودة بصلاحيات الوصول إلى البريد الإلكترونى عن مشكلات كبيرة، من بينها استجابتها لتعليمات صادرة من أشخاص خارج الشبكة، أو قيامها بإرسال بيانات إلى جهات غير مخول لها الوصول إليها.
ويرى مراقبون أن الفجوة الحالية بين الوعود النظرية والأداء الفعلى داخل بيئات العمل الحقيقية توضح أن أنظمة الذكاء الاصطناعى لم تصل بعد إلى مستوى الأداة الشاملة القادرة على تلبية جميع الاحتياجات، رغم التوقعات الكبيرة التى تروج لها شركات التكنولوجيا.
