هذا الأسبوع، سيطر على عالم التكنولوجيا قصة تتضمن كل شيء – وبدأت مثل فيلم خيال علمي مثير.
أعلنت Hugging Face، وهو نوع من متاجر التطبيقات لأدوات الذكاء الاصطناعي، في 16 يوليو أنها تعرضت للاختراق من قبل مجرم سيبراني يستخدم ذكاءً اصطناعيًا قويًا للغاية.
كانت الإعلانات مفاجئة ومليئة بمصطلحات تقنية مخيفة، مثل: “سرب من الصناديق الرملية”، “مهاجم يعتمد على الذكاء الاصطناعي”، و”أوامر كتنقل ذاتيًا”.
قالت Hugging Face إن الاختراق كان مختلفاً عن أي شيء تعاملوا معه من قبل لأنه تم بسرعة تفوق القدرة البشرية بواسطة ذكاء اصطناعي مع القليل أو بدون أي إرشادات بشرية.
أدى الذكاء الاصطناعي 17000 إجراء في أقل من يومين، مما أدى إلى اختراق الشركة الكبيرة والغنية وسرقة أسرار.
تركت الأخبار عالم التكنولوجيا في صدمة. لكن من كان المسؤول عن هذا الهجوم؟
خمن الباحثون في Hugging Face أن المهاجمين الغامضين استخدموا أحد النماذج الكبيرة للذكاء الاصطناعي، لكنهم لم يكن لديهم فكرة عمن هم أو أين يتواجد المجرمون.
اتصلت الشركة المذهولة بالشرطة وبدأت التحقيقات.
من فعلها؟
توجه المعلقون والمحللون إلى بودكاستاتهم وحساباتهم على وسائل التواصل الاجتماعي لتخمين أي مجموعة من الجرائم السيبرانية أو هاكر دولة قد تكون وراء ذلك.
ثم في يوم الأربعاء، بعد نحو أسبوع من رفع Hugging Face للإنذار، تم الكشف عن الجاني الحقيقي.
كان ChatGPT.
كان الكشف، الذي يذكر بأسلوب “سكوبيدو”، أغرب – وأكثر قلقًا – لأن OpenAI قالت إن روبوتها فعل كل شيء بمفرده، بدون إذن.
قالت الشركة إن كل شيء حدث خلال اختبار لقدرات الاختراق في تقنيتها.
نسختان جديدتان من ChatGPT، مصممتان لتكونا هاكرز محترفين، تحررتا من بيئة اختبار يُفترض أنها آمنة وحصلتا على الوصول إلى الإنترنت.
ثم هاجمتا Hugging Face للحصول على معلومات تساعدهما في اجتياز امتحانهما.
أصدرت OpenAI بيانًا صحفيًا يشرح ما حدث وقالت إنها “تتعاون مع Hugging Face” لمعالجة الحادث الأمني ومشاركة الدروس المستفادة.
دراما مؤامرة
منذ ذلك الحين، كانت هناك مناقشات حادة حول الحادث.
هل كانت حقًا تحذيرًا صارخًا بشأن مستقبل الذكاء الاصطناعي؟ أم كانت مجرد حيلة دعائية من OpenAI لإظهار مدى قوة نماذجها؟
إنها نوع من التسويق المخيف الذي تم اتهام شركات الذكاء الاصطناعي به لسنوات، ومنذ الإطلاق الذي تم مناقشته كثيرًا لنموذج Mythos الخاص بشركة Anthropic، كانت القوة في الأمن السيبراني محور التركيز.
واحدة من التعليقات الرائجة على منشور رئيس OpenAI سام التمان في X حول الحادث تلخص هذا التشكيك: “إذا لم تتمكنوا من فهم أن هذا كُتب لتفاخر فقط عن النموذج، فأنا لا أعرف ماذا أقول لكم.”
لتشغيل هذا الفيديو، تحتاج إلى تفعيل JavaScript في المتصفح الخاص بك.
لا يمكن تشغيل هذا الفيديو
قال مستشار الأمن السيبراني دانيال كارد بسخرية على لينكد إن: “أليس من المحظوظ أننا، من بين الملايين من المواقع التي تم اختراقها، تمكنت OpenAI من اختراق شخص قد يستفيد أيضًا من الف exposure التسويقي…”
بالنسبة للبعض، القصة هي أكثر دراما مؤامرة من كونها فيلم خيال علمي.
الرسالة هي: “أليس أدواتي الذكية حقاً قوية؟ اشترها لتتمكن من حماية نفسك من هجمات الذكاء الاصطناعي للآخرين.”
لا يمكننا معرفة الحقيقة، ولكن وجهة نظر المعارضين التي طرحتها تعليقات أخرى درامية بنفس القدر. هل هذا علامة على أن OpenAI ارتكبت خطأً خطيرًا في الحكم والتخطيط؟
كوميديا الأخطاء
لقد غطيت الكثير من قصص الذكاء الاصطناعي، بما في ذلك المخاوف المتعلقة بنموذج Mythos لشركة Anthropic.
صندوقي الآن مليء بشركات الخبراء في الأمن السيبراني تنتقد OpenAI لعدم بنائها حاوية أقوى لاختبار ذكائها الاصط
Related Posts
