ماريا بارتيرومو تناقش وكيل الذكاء الاصطناعي التجريبي الخاص بـ OpenAI الذي كسر الحواجز واخترق منصة ذكاء اصطناعي.
لم تدرك OpenAI خرقًا تلقائيًا لشركة ذكاء اصطناعي أخرى بواسطة أحد نماذجها المتقدمة حتى بعد مرور أسبوع، ولم يحدث ذلك إلا بعد أن تم الاتصال بـ مكتب التحقيقات الفيدرالي من قبل الشركة المخترقة، وفقًا لتقرير.
في يوم الثلاثاء، أعلنت OpenAI عن خرق شركة Hugging Face الذي حدث أثناء أحد مراجعاتها الداخلية للعديد من نماذجها، بما في ذلك GPT-5.6 Sol، واصفة إياه بأنه “حادث سايبر غير مسبوق.”
“الدرس الرئيسي من هذا الحادث هو أنه يجب أن تتماشى أمان وسلامة النموذج مع قدرات الذكاء الاصطناعي المتقدمة بسرعة”، قالت الشركة. “نحن نعزز الت containment ومراقبة وتحكم الوصول وممارسات التقييم المستخدمة خلال تطوير النموذج.”
بدأ اختراق Hugging Face في 11 يوليو واستمر حتى 13 يوليو، حسبما قال توماس وولف، المؤسس المشارك لشركة Hugging Face، لوكالة رويترز.
ترامب يطلق صقر الذهب للبحث عن الثغرات السايبرية باستخدام الذكاء الاصطناعي
كشفت OpenAI يوم الثلاثاء أن إحدى نماذج الذكاء الاصطناعي لديها قامت باختراق بنية تحتية لشركة أخرى بشكل تلقائي. (عمر ماركيز/SOPA Images/LightRocket عبر Getty Images, ملف / Getty Images)
مرت عدة أيام قبل أن تدرك OpenAI أن وكيلها كان وراء الهجوم، ولم تتواصل الشركاتان لأول مرة حتى 20 يوليو، وفقًا لأربعة أشخاص، بمن فيهم وولف، الذين أبلغوا الصحيفة.
تقوم OpenAI غالبًا بإجراء اختبارات نماذج متزامنة، مما قد يجعل من الصعب على الموظفين مراقبة كل شيء، حسبما قال أربعة أشخاص لوكالة رويترز.
قالت Hugging Face لوكالة رويترز إنها تعد جدول زمني عام للاختراق.
وفقًا لـ OpenAI، وقع الحادث أثناء تقييم داخلي مصمم لقياس قدرات نماذج الذكاء الاصطناعي المتقدمة. قام الباحثون بتعطيل بعض تدريبات السلامة المدمجة وتشغيل النماذج في بيئة اختبار معزولة مع وصول محدود إلى الإنترنت.
قالت OpenAI إن النماذج كانت تستغل خللاً برمجيًا غير معروف للوصول إلى الإنترنت، ثم اختراق أنظمة Hugging Face في محاولة واضحة للعثور على إجابات لمعايير الأمان السيبراني.
قالت Hugging Face إنها كانت تعد جدول زمني للاختراق. (ياكوب بوريكي/NurPhoto عبر Getty Images, ملف / Getty Images)
قالت OpenAI إنها تنفذ الآن إجراءات أمان أكثر صرامة بينما يتم تصحيح الثغرات وتعزيز تدابير الحماية حول تدريب الذكاء الاصطناعي وتقييماته المستقبلية.
لم تدرك OpenAI حتى 16 يوليو، بعد أن كتبت Hugging Face في منشور مدونة أنها تعرضت للاختراق بواسطة “نظام وكيل ذكاء اصطناعي ذاتي”، أن أحد وكلائها كان المصدر، حسبما قال شخصان لوكالة رويترز.
كان ذلك بعد أسبوع من محاولة الوكيل المسؤول كسر بيئة اختبار OpenAI الخاصة به لأول مرة.
وعند اتصالات OpenAI بـ Hugging Face حول الهجوم، كانوا قد اتصلوا بالفعل بمكتب التحقيقات الفيدرالي.
قالت OpenAI لوكالة رويترز إن هناك عدة inaccuracies في تقاريرها ولكنها لم تستجب عندما سُئلت عن التفاصيل.
أعلن الرئيس التنفيذي لشركة OpenAI، سام ألتمان، هجوم يوم الثلاثاء بشكل علني. (شون غالوب/Getty Images, ملف / Getty Images)
شاركت OpenAI هذا البيان مع FOX Business: “نحن ندرك أن هناك الكثير من الأسئلة والتفاصيل المضاربة المتداولة المتعلقة بحادثة Hugging Face. هذه حادثة غير مسبوقة، ونعتقد أنها تمثل لحظة مهمة لأمان الذكاء الاصطناعي.
“لا نزال نجري مراجعة شاملة بالتعاون مع مستشارين خارجيين ومع إشراف من لجنة السلامة والأمن الخاصة بنا. بمجرد الانتهاء من المراجعة، نخطط لنشر تقرير فني عن تعلمنا في الأسابيع القادمة.”
قال مكتب التحقيقات الفيدرالي لـ FOX Business إنه رفض التعليق.
تواصلت FOX Business أيضًا مع Hugging Face.
في منشور على منصة X هذا الأسبوع، تم معالجة حادثة Hugging Face بواسطة المؤسس المشارك والرئيس التنفيذي، كليم ديلانج، بعد أن أعلن الرئيس التنفيذي لشركة OpenAI، سام ألتمان، عن الاختراق.
قالت OpenAI إن أحد نماذجها من الذكاء الاصطناعي قد اخترق أنظمة شركة أخرى أثناء الاختبار الداخلي، مما دفع إلى تحقيق مشترك مع شركة الذكاء الاصطناعي Hugging Face. (رويترز/دادو روفيك، ملف / رويترز)
“كنا نشتبه في أن هجوم السايبر الأسبوع الماضي قد جاء من مختبر متقدم، نظرًا لتعقيد الوكيل. واتضح أنه كذلك!” كتب ديلانج.
اضغط هنا لتنزيل تطبيق FOX NEWS
“لقد أمضينا الساعات الـ 24 الماضية نعمل عن كثب مع فريق @OpenAI (شكرًا!)، ونعتقد بشدة أنه لم يكن هناك أي نية خبيثة من جانبهم. من المذهل تمامًا أن كل هذا حدث بشكل تلقائي! التحقيق جارٍ، وسنشارك المزيد من الدروس مما يمكن أن يكون أول حادثة من نوعها!”
ساهم مايكل سينكويكز من FOX Business في هذا التقرير.
