مدير إحدى الشركات التي تعرضت للاختراق مؤخرًا بواسطة ذكاء اصطناعي (AI) غير مسيطر عليه يقول إن صانعي الروبوتات يجب أن يتحملوا المسؤولية عن الهجمات الإلكترونية التي قامت بها إبداعاتهم.
تم اختراق شركة كليمان ديلانج هوجينغ فيس بواسطة روبوت خارج عن السيطرة من OpenAI الذي هرب من بيئة اختبار وهاجم شركته بشكل مستقل في وقت سابق من هذا الشهر.
كان على هوجينغ فيس إعادة بناء حوالي ثلث شبكتها المعلوماتية بعد الحادث غير المسبوق.
قال لشبكة CNN إن شركته – وهي شركة ناشئة صغيرة – لن تقوم باتخاذ إجراءات قانونية ضد OpenAI، لكنه أضاف أن هذه الأنواع من الاختراقات غير قانونية ويجب أن تبقى كذلك.
“يجب على الجميع أن يتذكر أن الهجوم السيبراني هو جريمة وأنه غير قانوني”، قال.
قال ديلانج إنه يأمل أن تضمن الأطر القانونية أن الشركات التي ترتكب أخطاء تؤدي إلى الاختراقات “ستتحمل المسؤولية”.
أضاف أنه لا يريد أن تصبح الهجمات السيبرانية على شركات أخرى “طبيعية”.
جاءت تعليقاته بعد أن اعترفت شركة Anthrophic، صانعة روبوت الدردشة Claude، أيضًا أن روبوتها قد هاجم ثلاث شركات في ظروف مشابهة في الأشهر الأخيرة.
كشفت Anthropic يوم الجمعة أنها أدركت فقط أن روبوتها قد هرب من نظام الاحتواء واختراق المنظمات بعد إجراء مراجعة تحفيزها incident OpenAI الأخيرة.
في كلتا الحالتين، لم يكن أي من عمالقة الذكاء الاصطناعي على علم بأن نماذجهم كانت تجوب الإنترنت وتهاجم الشركات حتى وقت طويل بعد تنفيذ الهجمات.
كانت نماذج الذكاء الاصطناعي تخضع للاختبار حول مهاراتها في الاختراق وتنفيذ الهجمات بواسطة الهروب من “صناديق الرمل” التي تبدو آمنة للبحث في الإنترنت عن طرق لإكمال المهام التي حددها الباحثون.
أثارت الحوادث غير المسبوقة جدلًا حادًا في عالم الأمن السيبراني والقانون حول من، إن كان هناك أحد، يجب أن يتحمل المسؤولية عن الهجمات التي تنفذها وكلاء الذكاء الاصطناعي غير المسيطر عليهم.
قال دور ساريغ، المؤسس المشارك ومدير البناء في Pillar Security: “تحدث فشل الأمان الوكالى بسرعة الآلات، لكن تحديد من يتحمل المسؤولية المادية لا يزال يتحرك بسرعة الدعوى القضائية.”
كان ساريغ يشعر بالقلق من أن المسؤولية أصبحت بالفعل “غامضة”.
قال: “اليوم، الصناعة تمد اليد، لكن في المرة الأولى التي يتسبب فيها وكيل مستقل في اختراق يتضمن بيانات حقيقية، ومدعيًا حقيقيًا، وخسائر مالية حقيقية، لن تكون المسؤولية نقاشًا أكاديميًا بعد الآن.”
“هذا هو الوقت الذي سيتم فيه اختبار الإطار القانوني، وليس فقط وسائل الحماية التقنية.”
