- الكود الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي ينمو أسرع من آليات الرقابة الأمنية
- المراجعات اليدوية تكافح لمواكبة البرمجيات التي تم إنشاؤها بواسطة الآلات
- يخشى قادة الأمن من أن أنماط البرمجة غير الآمنة تنتشر عبر خطوط تطوير البرمجيات
ساهمت مساعدات البرمجة بالذكاء الاصطناعي في الانتشار بين الفرق التطويرية بسرعة أكبر من قدرة الأطر الأمنية على التكيف.
كما زعمت أبحاث جديدة من Salt Security أن 90% من قادة الأمن الآن يشيرون إلى مخاوف نشطة بشأن المخاطر التي تثيرها البرمجيات التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
ومع ذلك، تواصل المنظمات اعتماد أدوات الذكاء الاصطناعي لأنها تسرع مهام الترميز، وتقلل من الوقت المستغرق في الأعمال المتكررة، وتزيد من سرعة تسليم البرمجيات.
المراجعة البشرية لا تستطيع مواكبة سرعة الذكاء الاصطناعي
يعتقد قادة الأمن أن ممارسات التطوير التي تم تصميمها قبل أن يصبح الذكاء الاصطناعي شائعًا قد لا توفر رقابة كافية بعد الآن.
حددت ما يقرب من ثلث (29%) من المشاركين أن أنماط البرمجة غير الآمنة هي الخطر الأساسي الذي قدمته مساعدات الذكاء الاصطناعي.
تتعلم هذه الأنظمة من مجموعات تدريب ضخمة تحتوي على عيوبها الخاصة وممارسات قديمة.
يمكن أن ينتج أداة الذكاء الاصطناعي كودًا يبدو وظيفيًا تمامًا بينما يعيد بهدوء إنتاج الثغرات التي قد كان يمكن أن يكتشفها إنسان.
تشبه هذه المشكلة كيفية برامج مكافحة الفيروسات التي يجب أن تحدث تعريفاتها باستمرار لأن التهديدات الجديدة تظهر أسرع من نمو قواعد البيانات الخاصة بالتوقيع.
الفرق هنا هو أنه لا توجد سلطة مركزية تتتبع كل نمط غير آمن قد يقوم الذكاء الاصطناعي بتكراره – على الرغم من القلق الواسع النطاق الذي يثيره الذكاء الاصطناعي، لا تزال أكثر من ثلث المنظمات تعتمد على المراجعات اليدوية للكود قبل أي إطلاق.
تصبح الاعتماد على التحقق البشري مشكلة هيكلية عندما ينتج الذكاء الاصطناعي كودًا بحجوم لا يمكن لأي فريق التحقق منها بدقة.
كانت هذه الطريقة ناجحة عندما كتب المطورون البرمجيات بسرعة بشرية، لكنها تفشل عندما يسرع الذكاء الاصطناعي الإنتاج بشكل كبير.
تظهر إرهاق المراجعين بسرعة، وتطبق الفرق المعايير بشكل غير متسق، وتفسر متطلبات الأمان بشكل مختلف عبر الأقسام.
تغير مساعدات البرمجة بالذكاء الاصطناعي بشكل جذري كيفية بناء البرمجيات، لكن الحوكمة لم تواكب ذلك،” قال روعي إلياهو، الرئيس التنفيذي وواحد من مؤسسي Salt Security.
“تدرك معظم المنظمات المخاطر، لكن العديد منها لا يزال يحاول إدارة الكود الذي تم إنشاؤه بواسطة الذكاء الاصطناعي باستخدام عمليات أمنية تم تصميمها لعالم ما قبل الذكاء الاصطناعي.”
لا scales هذا النهج بشكل أفضل من استخدام صندوق بريد إلكتروني واحد للتعامل مع الملايين من الرسائل اليومية دون تصفية أو أتمتة.
تعقيد المؤسسات يجعل التنفيذ أكثر صعوبة
تواجه المؤسسات الكبيرة التي تضم أكثر من 500 موظف تحديات حوكمة لا تواجهها الشركات الصغيرة ببساطة.
تستخدم الفرق الموزعة أدوات مختلفة، وتتبع سير عمل متنوع، وتطبق معايير الأمان بدقة غير متسقة عبر المناطق.
يزداد خطر اعتماد المطورين المفرط على مساعدات الذكاء الاصطناعي بالتناسب مع حجم الفريق وضغط التسليم.
حذرت الوكالات الأمنية، بما في ذلك الهيئات الحكومية للأمن السيبراني، سابقًا من أن أنظمة الذكاء الاصطناعي توسع سطح الهجوم وتعقد الهياكل المسؤولة بشكل كبير.
بدون رؤية أفضل لمكان دخول الكود الذي تم إنشاؤه بواسطة الذكاء الاصطناعي إلى خط الإنتاج، تبقى الحوكمة تخمينًا يرتدي ثوب عملية.
يقدم اعتبار مساعدات البرمجة بالذكاء الاصطناعي كعناصر من سلسلة إمداد البرمجيات — مشابهة لفحص أي خطر البرمجيات الخبيثة — يوفر مسارًا أكثر واقعية للمضي قدمًا بدلاً من الأمل في أن المراجعة اليدوية ستلحق somehow.
Related Posts
