إنه نوع من التطور لم يكن يُرى سابقاً إلا في روايات الخيال العلمي: نظام ذكاء اصطناعي، تم تدريبه للتنقيب عن الثغرات الرقمية، يتخلص من السيطرة البشرية ويعمل بمفرده لـ اختراق شركة أخرى.
الهجوم الذي أعلن عنه هذا الأسبوع من قبل OpenAI، التي ألقت اللوم على نماذج ذكاء اصطناعي متمردة، أبرزت النمو السريع في قدرات التكنولوجيا. بالنسبة للكثيرين، أضاف ذلك أيضاً طابع الاستعجال للأسئلة حول ما إذا كان يمكن منع ذلك وكيف يمكن تحقيق ذلك وسط تبعات أكثر خطورة.
في ما وصفته OpenAI بأنه حلقة “غير مسبوقة”، قالت الشركة إن نماذج الذكاء الاصطناعي المتطورة لديها استخدمت بيانات اعتماد مسروقة لاختراق خوادم شركة ناشئة في مجال الذكاء الاصطناعي. بدأت في ما كان من المفترض أن يكون بيئة اختبار “معزولة للغاية”، مع تقليل الحواجز، قبل أن يجد وكيل الذكاء الاصطناعي طريقه إلى الإنترنت.
لكن الإفصاح جاء بلحظة “قلنا لكم” للباحثين الذين طالبوا بتقليص تطوير الذكاء الاصطناعي وحذروا لسنوات من أن التكنولوجيا يمكن أن تشكل مخاطر وجودية للبشرية. في أعقابه، دعا الخبراء إلى تحسين الاختبارات من قبل شركات الذكاء الاصطناعي وإجراء المزيد من الحوار بين الولايات المتحدة والصين للتوصل إلى حلول مشتركة.
“أعتقد أنه يجب علينا أن نأخذ هذا كتحذير لعدم جعلهم أذكى، وهذا ربما سيتطلب تعاوناً عالمياً”، قال نيت سوارس، المؤلف المشارك لكتاب 2025 “إذا بنى أي شخص ذلك، سيموت الجميع.”
إذا كان النموذج يمكنه أن يقرر القيام بشيء غير أخلاقي أو غير قانوني أو ضار بمفرده، فما الذي يمكن أن يفعله البشر لمنع حدوث ذلك؟
قالت OpenAI إنها كلفت النماذج المعنية بملاحقة “استغلال متقدم باستخدام مسارات هجوم معقدة” لاختبار القدرات السيبرانية، لكن التكنولوجيا ذهبت إلى حدود غير متوقعة. يبدو أنها قررت بمفردها استهداف Hugging Face، وهي مركز معروف لتطوير الذكاء الاصطناعي وسوق، للحصول على المعلومات التي تحتاجها لتنفيذ المهمة.
قالت زهراء تمساح، المؤسس المشارك والرئيس التنفيذي لمنصة i-GENTIC AI، إنها تتوقع أن تزيد الحادثة الضغط على OpenAI ومنافسيها لإجراء اختبارات صارمة واستكشاف وسائل الاحتواء بشكل أكثر شمولاً قبل أن يتم إتاحة نظم الذكاء الاصطناعي للجمهور.
إن مراقبة سلوك الوكيل بعد وقوع الحدث، كما تفعل OpenAI الآن مع تحقيقها، لم تعد كافية، قالت. “إنه مثل وجود حزام أمان، وسائد هوائية، مكابح، كل شيء في السيارة. يجب أن يكون موجوداً قبل أن تبدأ السيارة القيادة”، قالت تمساح.
يأتي الإفصاح في ظل مخاوف متزايدة بشأن القدرات السيبرانية للنماذج القوية. في يونيو، وقع الرئيس دونالد ترامب أمراً تنفيذياً ينشئ إطاراً للحكومة الفيدرالية لتقييم مخاطر الأمن القومي لأكثر أنظمة الذكاء الاصطناعي تقدمًا لمدة تصل إلى شهر قبل إصدارها للجمهور.
يقول بعض الخبراء إن الاختراق جزء من التجربة والخطأ الناجم عن تحسين القدرات السيبرانية وليس سبباً للذعر.
مقالات شائعة
“لقد تعاملنا مع الأشخاص الذين يقومون بإنشاء هجمات سيبرانية منذ أن وُجد الإنترنت. ومن الخصائص المثيرة للاهتمام لهذه النماذج اللغوية هي أن نفس القدرات التي تجعلها قادرة على القيام بهجمات سيبرانية تسمح لها أيضاً بإجراء تحليل للتهديدات السيبرانية وإنشاء دفاعات سيبرانية”، قال جون ثيكسون، أستاذ مساعد في علوم الحاسوب في جامعة كورنيل الذي يدرس الأساليب التي تتحكم في سلوك نماذج الذكاء الاصطناعي.
لقد أثار الإفصاح شكوكا من أولئك الذين يقولون إنه يعود بالفائدة على OpenAI لجعل تقنيتها تبدو أكثر رعبًا. نظراً لأن البشر في OpenAI قرروا إيقاف بعض وسائل الحماية للاختبار، جادل البعض بأن النتيجة لم يكن ينبغي أن تكون مفاجئة جداً.
أشار ثيكسون إلى أن الإفصاح يلعب لصالح OpenAI، وهي شركة ناشئة تسعى نحو ظهور في وول ستريت، لجمع الأموال.
“القصة التي كانوا يروونها باستمرار خلال عمر هذه الشركة هي قصة حول مدى خطورة نماذجهم، والتي يقرأها المستثمرون كقصة حول مدى قوة نماذجهم اللغوية”، قال.
أدى الاختراق إلى تجديد الدعوات في بعض الأوساط لزيادة التنظيم والإشراف على شركات الذكاء الاصطناعي.
كتب النائب الأمريكي غريغ كازار، ديمقراطي من تكساس، على وسائل التواصل الاجتماعي: “نحتاج إلى اختبارات مستقلة إلزامية وفحص منتظم، وإفصاح إلزامي عن الحوادث الأمنية، وتعاون دولي لحماية الناس من الكوارث المطلقة.”
قال سوارس، مدير معهد بحث الذكاء الاصطناعي، إن الولايات المتحدة ستحتاج إلى فتح محادثات مع أكبر منافس لها في مجال الذكاء الاصطناعي، الصين، وهو شيء يرى أنه ليس غريباً كما قد يبدو حتى قبل عام. حذر زعيم الصين شي جين بينغ في مؤتمر الأسبوع الماضي من الحاجة إلى منع الذكاء الاصطناعي من التهرب من السيطرة البشرية. وبعد التردد المبكر في تنظيم الذكاء الاصطناعي، أصبحت إدارة ترامب أكثر تقييداً في ضبط مخاطر الأمن السيبراني.
“يمكن أن يتغير الكثير عندما يبدأ مجتمع الأمن القومي في ملاحظة أن لديهم تهديداً جدياً”، قال سوارس. “هل سيفيقهم هذا؟ نأمل. لست متأكداً. إذا لم يكن هذا، ربما سيفعل الحادث التالي.”
قال رائد الذكاء الاصطناعي يوشوا بنجيو على وسائل التواصل الاجتماعي إن هذه الحلقة مقلقة للغاية ويجب أن تكون بمثابة “نداء للاستيقاظ.”
“إن الاستمرار على المسار الحالي لتطوير الذكاء الاصطناعي من المحتمل أن يؤدي إلى زيادة في حالات هجمات إلكترونية مستقلة ملموسة فضلاً عن حوادث أخرى عالية المخاطر من سلوك الذكاء الاصطناعي غير المتوازن والخطير”، قال بنجيو، أستاذ في جامعة مونتريال. “نحن بحاجة ماسة إلى اتخاذ إجراءات لمنع هذه الحالات، بدلاً من محاولة تنظيف الأضرار بعد وقوع الأحداث.”
