قالت Google يوم الإثنين إنها قامت بإحباط محاولة مجموعة إجرامية لاستخدام الذكاء الاصطناعي لاستغلال ثغرة رقمية غير معروفة سابقًا في شركة أخرى، مما زاد من القلق المتزايد في الحكومة والصناعة الخاصة بشأن مخاطر الذكاء الاصطناعي على الأمن السيبراني.
شاركت Google معلومات محدودة حول المهاجمين والهدف، لكن جون هولكويست، رئيس تحليل التهديدات في ذراع الذكاء الصناعي للشركة، قال إن ذلك يمثل لحظة حذر منها خبراء الأمن السيبراني لسنوات: قراصنة خبيثون يسلحون أنفسهم بالذكاء الاصطناعي لتقوية قدرتهم على اختراق أجهزة الكمبيوتر في العالم.
قال هولكويست: “إنها هنا. لقد بدأ عصر استغلال الثغرات المدفوع بالذكاء الاصطناعي.”
يأتي ذلك في وقت يشهد leaps في قدرات الذكاء الاصطناعي للعثور على الثغرات، بما في ذلك نموذج Mythos الذي تم الإعلان عنه قبل شهر من قبل Anthropic. من بين أولئك الذين يحاولون تعزيز دفاعاتهم هو مكتب الرئيس دونالد ترامب البيت الأبيض، الذي غير نهجه في كيفية التخطيط لمراجعة أقوى نماذج الذكاء الاصطناعي قبل إصدارها للجمهور.
بعد الوفاء بوعد الحملة لإلغاء الضوابط التي وضعها الرئيس الديمقراطي جو بايدن بشأن التكنولوجيا المتطورة بسرعة، ترسل الإدارة الجمهورية وحلفاؤها الآن إشارات مختلطة حول دور الحكومة في إشراف الذكاء الاصطناعي.
قال دين بال، زميل أول في مؤسسة الابتكار الأمريكي، الذي كان سابقًا مستشار سياسة التكنولوجيا في البيت الأبيض ومؤلفًا رئيسيًا لخارطة طريق سياسة الذكاء الاصطناعي الخاصة بترامب العام الماضي. “لا أرغب في وجود تنظيم، أفضل أن لا يتم تنظيم الأمور. لكنني أعتقد أننا بحاجة إلى ذلك في هذه الحالة.”
قالت Google إنها رصدت مجموعة من “ممثلي التهديد” البارزين يخططون لعملية كبيرة تعتمد على ثغرة اكتشفوها. سمحت لهم الثغرة بتجاوز المصادقة الثنائية للوصول إلى أداة إدارة نظام عبر الإنترنت شهيرة، والتي امتنعت Google عن تسميتها.
وصفت الشركة ذلك بأنه استغلال يوم صفر، وهو هجوم إلكتروني يستغل ثغرة أمنية غير معروفة سابقًا. تشير “اليوم صفر” إلى حقيقة أن مهندسي الأمن لم يكن لديهم أي وقت لتطوير إصلاح للثغرة.
قالت Google إنها أبلغت الشركة المتأثرة وإنفاذ القانون وكانت قادرة على إحباط العملية قبل أن تتسبب في أي ضرر. لكن أثناء تتبعها لآثار القراصنة، وجدت أدلة على أنهم استخدموا نموذج لغة كبير بالذكاء الاصطناعي – نفس التكنولوجيا التي تدعم الدردشات الشهيرة – لاكتشاف الثغرة.
لم تكشف Google عن النموذج الذكي المستخدم في الهجوم الإلكتروني، فقط أنها كانت على الأرجح ليست Gemini الخاصة بـ Google أو Claude Mythos من Anthropic. كما لم تكشف Google عن المجموعة التي تشتبه بها في الهجوم لكنها قالت إنه لم يكن هناك دليل على ارتباطها بحكومة معادية، رغم أن الشركة قالت إن مجموعات مرتبطة بالصين وكوريا الشمالية كانت تستكشف تقنيات مشابهة.
قراءات شائعة
قال هولكويست إن قراصنة الجرائم لديهم أكثر مما يكسبون من قدرة الذكاء الاصطناعي “الهائلة على السرعة” في العثور على الأخطاء الأسecurity.
قال في مقابلة: “هناك سباق بينك وبينهم لمنعهم قبل أن يتمكنوا من الحصول على أي بيانات يحتاجون إليها لابتزازك أو إطلاق برامج الفدية.” “سيكون الذكاء الاصطناعي ميزة كبيرة لأنه يمكنهم التحرك بسرعة أكبر بكثير.”
أعلنت وزارة التجارة الأمريكية الأسبوع الماضي أنها وقعت اتفاقيات جديدة مع Google و Microsoft و xAI ليلون ماسك لتقييم أقوى نماذجها قبل إصدارها للجمهور، بناءً على الاتفاقيات السابقة التي أبرمتها إدارة بايدن مع Anthropic و صانع ChatGPT OpenAI. لكن الإعلان اختفى لاحقًا من موقع وزارة التجارة.
كانت هذه أحدث مثال على الإشارات المتشابكة من إدارة ترامب في الشهر الذي أعقب إعلان Anthropic عن نموذج جديد أطلق عليه اسم Mythos، والذي قالت إنه كان “قادرًا بشكل لافت” على العمل في القرصنة والأمن السيبراني بحيث يمكن فقط إصداره لمجموعة صغيرة من المنظمات الموثوقة.
أنشأت Anthropic مبادرة تُدعى مشروع جناح الزجاج تجمع بين عملاق التكنولوجيا بما في ذلك Amazon و Apple و Google و Microsoft، إلى جانب شركات أخرى مثل JPMorgan Chase، على أمل تأمين البرمجيات الحرجة في العالم من “العواقب الشديدة” التي قد يسببها النموذج الجديد على السلامة العامة والأمن القومي والاقتصاد. لكن علاقتها مع الحكومة الأمريكية كانت معقدة بسبب قتال عام وقانوني مع البنتاغون وترامب نفسه حول الاستخدام العسكري لـ تقنيتها في الذكاء الاصطناعي.
تنافسها الرئيسي، OpenAI، قدمت بعد ذلك نموذجًا مشابهًا. قالت الشركة يوم الجمعة إنها ستطلق إصدارًا متخصصة في الأمن السيبراني من ChatGPT سيكون متاحًا فقط لـ”المتخصصين المسؤولين عن تأمين البنية التحتية الحرجة” لمساعدتهم في العثور على الثغرات وإصلاحها في رمزهم.
قال بال إنه متفائل بأنه، على المدى الطويل، ستجعل أدوات الذكاء الاصطناعي التي تصبح أكثر كفاءة في البرمجة الأمور أكثر أمانًا من الهجمات السيبرانية الروتينية التي تؤثر على المستشفيات والمدارس وغيرها من المنظمات. وفي الوقت نفسه، وقال إن هناك “تريليونات لا تُعد من أسطر البرمجيات” تدعم أنظمة الكمبيوتر في العالم معرضة للخطر إذا أُطلقت أدوات الذكاء الاصطناعي لاستغلال جميع أخطائها.
قد يستغرق الأمر سنوات لتأمين كل هذه البرمجيات – وهي عملية يعتقد بال أنها ستساعدها تنسيق الحكومة الأمريكية.
في غضون ذلك، يتنبأ بال بفترة “انتقالية” حيث ترتفع مخاطر الأمن السيبراني بشكل كبير و”قد يصبح العالم أكثر خطورة فعلاً.”
